„В тежка етична криза сме. Време е за рестарт!“

ян. 16, 2024 | Срещи

„В тежка етична криза сме. Време е за рестарт!“

16 януари 2024 | Срещи

Може ли религията да ни помогне с етичните норми, които да въплътим в изкуствения интелект? Защо във времената, когато вярата е все по-рядко обсъждана тема, за нея продължават да се водят войни?

На пръв поглед далечната връзка между вярата и технологиите според мен е много важна (ето защо). След като на Дигитални истории вече е гостувал православен свещеник, дойде моментът и за един особено интересен представител на втората най-разпространена религия у нас.

Бирали Бирали е духовник със сериозно образование, до неотдавна беше заместник-главен мюфтия на България, бил е начело и на Националния съвет на религиозните общности.

Води собствена онлайн видео поредица, в която говори на религиозни, но и на общочовешки теми. Преподава методика на религиозното обучение и психология на религията. Начело е на център за духовно наставление и консултации към главното мюфтийство.

Може ли да вярва изкуственият интелект на бъдещето, или сам да се обяви за бог? Може ли с напредването на технологиите той да замени духовниците? Къде трябва да сложим предела на тези технологии, за да оцелеем като цивилизация? Какво ни липсва най-много в уж напредналото ни технологично общество, за да живеем по-добре? Отправяме се по пътя на актуалните, но и вечни въпроси…


 

– Следите ли новините, свързани с напредъка на изкуствения интелект?

– Тези теми отдавна са тук, отдавна имаме изкуствен интелект дори в телефоните си, много преди да използваме ChatGPT за разни решения на проблеми, задаване на въпроси, концепции.

Изкуственият интелект е поредното ниво на развитие на технологията. Каква е необходимостта от технологиите? Да улесняват живота на хората. Той е продукт от научна човешка дейност, която, намирайки законите, поставени в нашето съществуване, може да направи така, че да улесни нашия живот. Да намали натоварването, било то физическо или психическо и да имаме един по-спокоен живот.

 

Бирали Бирали

Бирали Бирали при гостуването на папа Франциск

 

– Така изглеждаше дотук. Само че постепенно се приближаваме до нещо, което е все по-неразличимо от човешко същество.

– Къде е плашещият момент в това да прилича на човешко същество? Един от въпросите е излизането от контрол. Кое ще го накара да излезе от контрол? Самообучението, което прави изкуствения интелект, в какви рамки се самообучава той?

 

– Каквито му зададем ние. Но те стават все по-широки и неясни. В някакъв момент може да се осъзнава като форма на личност. Оттам нататък може да иска да иска да ни манипулира, да ни контролира, да ни управлява, да ни унищожи, да ни дари вечен живот…

– Тук идва

въпросът какво е личността? Засега тези машини имитират човека

с неговата мозъчна дейност или част от нея, защото тя е много повече от просто логичка.

В момента той дава бързи решения с много вариации. Дали това ще го направи личност? Мисля, че не. Много може да се говори за това какво е личността, аз лично се базирам на религиозните понятия.

В мюсюлманската религия, защото съм мюсюлманин и вярвам в това, се говори, че човешката личност е съвкупност от материя и дух. Ние вярваме, че Коранът е последното послание на Създателя, книга, която потвърждава тези, които са били преди нея, другите откровения на Бога, и в същото време дава актуализация на божественото послание.

За какво е необходима тази актуализация? Бог поправя себе си? Не. Поправя това, което хората по някакъв начин са променили, по този начин предишната версия не е актуална, не е божествена.

Според Корана човекът има материална и духовна същност. Съчетанието между двете дава една друга субстанция – условно използвам тази дума, – която се нарича „душа“. Там е личността на човека. Духовната страна не ни е разкрита, тя е тайнство. За биологичната обаче чрез наблюдения, чрез изследвания, можем да стигнем до определени закономерности.

 

Бирали Бирали

снимки: Добрин Кашавелов

 

– Тоест, според исляма, ние можем да уподобим материалното, но не и духовното?

– Къде се помещава душата, не знаем – дали е в сърцето, или в разума. Но тя също се базира на два центъра. Центърът на разума е рационалното, връзката. Възприемаме нещо, преработваме го и идва отговор. Сърцето обаче е друго нещо, то е връзката с духа и отвъдното.

Затова емоциите не могат да се обяснят докрай, особено, ако кажем, че любовта е емоция.

Саможертвата! Няма рационални страни. Против логиката е да се жертваш, проявата на състрадание също. Тук влизаме в едни други категории. Ако започнем да ги съпоставяме с нещото, наречено изкуствен интелект, няма да намерим много общо…

Технологиите напредват, скоро ще имаме изкуствен интелект, който може да се реализира и чрез биомаса. Ще се произвеждат изкуствени органи, протези, които се поставят в мозъка, слухови и зрителни. Човек може чрез технологията да събуди зрението, слуха си. Вече правим това, но идва следващият въпрос. Дали това ще бъде личност?

 

– Може да бъде неразличимо от личност.

– Точно така. Защото ние, когато комуникираме с този продукт, който прилича на човека, го възприемаме като човешко създание – използвам условно тази дума, защото „създанието“ е понятие, свързано с Бога, Създателя.

Къде е проблемът? Както всички нови неща, които можем да измислим и да въведем в нашия живот, в една степен те са благодат, но в друга могат да бъдат проклятие.

Така е с всички открития до ядрените технологии, и във филма „Опенхаймер“, се поставят такива етични въпроси. Всичко опира до човека, до ценностната система на този, който създава. До каква степен той ще даде такъв код, който да не дава възможност да излезе извън контрол?

За съжаление, ние нямаме такава гаранция. Какво правим тогава? Трябва да спрем ли?

 

Бирали Бирали

снимки: Добрин Кашавелов

 

– Слагаме някакви рамки, норми, търсим заедно трудните отговори. Иначе делегираме правото да вземат решения на учените и на компаниите, които не са непременно подготвени за това.

– Скоро имаше конференция, участваше главният мюфтия, за това доколко изкуственият интелект може да дава фетви – религиозни решения. Има въпроси, на които човек не може да намери пряк отговор от източниците на религиозно познание и е необходимо да дойде специалист, който е обучен да прецени ситуацията и да даде решение.

Това може ли да го прави изкуственият интелект? Оперативно може, когато разглежда всички източници, които са заложени като информация, като данни. Ако човекът срещу него му представи всички обстоятелства – тогава може да му даде рецептата, с която да реши своя проблем.

Но доколко това е ефективно? Идва моментът за отговорността. Защото човекът, който дава такова религиозно решение, е отговорен пред Създателя. По този начин той определя отношението на другия, който го е питал, с Бога. Какво става, ако сгреши? Тук вече измисляме нова религия. Кой ще носи отговорност за това?

 

– Алгоритъмът? С него лесно можем да си измием ръцете. Но ако вече всичко в живота ни се е преместило онлайн, а аз искам от едно духовно лице съвет, може вече да не знам дори дали то съществува физически, или е просто алгоритъм.

– Духовното лице е необходимо да съществува, както съществува човекът.

Другият голям проблем, който идва, е, че

цивилизовайки се, отиваме към една позиция на самодостатъчност.

Ние я оправдаваме чрез понятието за независимост, което ни дава свобода. Но тя не ни освобождава, защото свободата винаги е свързана с отговорност. Отговорността отпада в момента, когато сме независими. Разглеждайки обаче човека като цяло, виждаме, че независимостта не е най-високата точка, такава се оказва взаимозависимостта. Когато имаме връзка на независими хора и те решават проблеми, с които не могат да се справят сами.

Тогава може ли един човек да бъде взаимно зависим с изкуствения интелект? Много добър тандем са.

 

Бирали Бирали

снимки: Добрин Кашавелов

 

– То се случва на практика.

– В човека обаче е скрито егото от неговата душа.

Ако това его не е подложено на баланси, контрол и пречистване, то излиза от контрол.

И падаме под управлението на нашите страсти, желания, пориви. Това е нещо, което Бог е заложил в нас, тъй като ни е необходимо. Нашата система така живее – с поривите, желанията, страстите, гнева, страха, обичта, омразата. Това са неща, които са вътре в нас и осмислят живота като цяло.

Може ли изкуственият интелект да бъде програмиран да обича? Да прави саможертва, да вярва? Всички тези неща поотделно могат да се имитират, но взети заедно, няма как да стане.

Машината може да вземе решения, според своите логични връзки да прави избор кое е вярно, кое е правилно, кое е справедливо. Но идва един фактор, който е свързан с милостта.

Ето войната, която виждаме в момента. Има справедливост – едната страна отвръща на удара, който е получила. От другата страна вече идва милостта. Когато виждаме, че в този конфликт умират невинни жертви, кое ще вземе превес сега?

 

– Няма да е милостта.

– Материалната страна, силата взима превес. Но от позицията на времето можем да констатираме, че

в много конфликти истинската победа не е на този, който физически е победил.

Може да бъде за другия, който е победен.

 

Бирали Бирали

снимки: Добрин Кашавелов

 

– Защо все още толкова много войни се водят на основата на религия? Малко или повече, почти всички конфликти, освен руско-украинския, са свързани с различни вери?

– Моето мнение е, че войните се водят не на основата на религия, а на егото на човека, на душата му.

Религията може да се използва като параван за това. Ако човек няма добра връзка със Създателя, каквото и да означава това, трудно може да балансира.

Чувствата и емоциите не могат да доведат човек до рационално решение, ясно е. От тях следва реактивно поведение, не проактивно.

Това, което се случи, не е началото, това също е важно. Едната страна е нападната, има жертви, деца, невинни хора. Това е емоционалният момент: „трябва да отмъстим“. Няма как да кажем, че нямат право. Обаче, за да консолидираш толкова хора, да ги поведеш в нещо такова, трябва да поддържаш техния дух, да ги мотивираш с нещо много по-силно.

Тук вече идват изкривяванията на религиозната страна.

Религията води до смирение, не до враждебност. но това се изгуби. Защо? Защото се изродиха хората.

Те обръщат внимание само на материалната си същност, не на духовната. Къде са първите приложения на всяка нова технология, включително и на изкуствения интелект? При военните.

 

– Отдалечават ли ни технологиите от религията? Напредвайки с тях, позициите на конфесиите в обществото са по-слаби, вярващите са по-малко.

– Религията е отношение. Отношение на човека в неговите четири основни поведенчески сфери – връзката му със себе си, с околните, със Създателя и с околния свят.

Това определя религията – отношенията. Тя е свързана с вярата, а вярата – с убежденията.

Когато човек работи, развивайки техниката и науката, той се стреми да подчини природата на себе си. Което не е лошо, но важен е критерият за границата, а това са ценностите. При липсата на ценности едно откритие като ядрения взрив може да се използва за унищожение, а когато те се задействат, вече служи, за да се получи енергия.

В този смисъл изкуственият интелект може да ни помогне много, но може и да притъпи нашата функция като хора.

Това, което предупреждават невропсихолозите например, е, че когато човек живее, когато се среща с физическото, когато взаимодейства с него, когато решава проблеми, той развива мозъка си, прави нови невронни връзки. Мисловният процес се дължи на това.

Когато съм свел мисловния процес до най-елементарното, как ще решавам сложни задачи?

Нямам тези невронни връзки, които се изграждат в срещата с трудностите.

 

Бирали Бирали

снимки: Добрин Кашавелов

 

– Можем ли да включим религиите в създаването на етични рамки за технологиите?

– Това би било имитация на религията, имитации на отношения. Ще липсва моментът на вярата.

Човек може да бъде етичен, без да е религиозен и да е религиозен, без да е етичен.

Религията не може да бъде функционална без вярата, тогава се превръща в гротеска. Ще бъде само някаква форма, стереотип – ако излезем от него и срещнем проблеми, които не са описани, бъгваме, не става.

В Корана има два стиха, които говорят за това, че Бог поддържа сблъсъка между хората. Конфликтът е част от живота ни!

В единия се казва, „ако Аллах не отблъскваше едни хора чрез други, земята щеше да се провали. Но Аллах е владетел на благодат за световете (АлБакара- 251). В другия – „и ако Аллах не отблъскваше едни хора с други, щяха да бъдат разрушени и манастирите, и църквите, и синагогите, и джамиите, където името на Аллах се споменава много. Аллах ще подкрепи онези, които Го подкрепят“.

Ако търсим някаква мъдрост от това, можем да стигнем до извода, че когато човек намира трудности, той се обръща към Бога. А ако не ги намира, се отдалечава…

Етичната концепция определя дори воденето на война – не може да се унищожават храмове, да се убиват деца, жени, старци, да се разрушават посеви. Убиваш, биеш се само с човека, който се бие с теб.

Какво виждаме в момента? Обратното!

Нещо ужасно, деца срещу деца, нашите срещу вашите. Те стават обект и това е най-страшното.

Всички сегашни конфликти дават едно много сериозно послание – ценностите са заминали. Това е голяма етична криза! Трябва да се рестартира човечеството.

 

– Как?

– Единият път е със себеосъзнаване, другият – чрез конфликтите.

 

Бирали Бирали

снимки: Добрин Кашавелов

 

– Използвате активно интернет в работата си като проповедник. Казахте, че всяка технология носи проклятията си – от тези дигитални технологии, които уж ни свързват, кои са най-големите проклятия?

– Те идват от това как използваме самата технология – градивно или деструктивно. Но не си даваме сметка, че един път получаваме резултата в света, в който живеем, и втори път трупаме грехове за другия свят, към който отиваме.

Деструктивната страна е излизането от ценностите.

Ако един човек каже лъжа, ще го чуят няколко души, но ако го каже във фейсбук, ще стигне до целия свят.

Днес греховете вече имат друго измерение. По-глобални грехове правим…

Една грешка в медиите, един надпис може да предизвика много сериозни проблеми, ефекта на пеперудата.

Затова всичко се свежда до ценностната ни система. Самото откритие, самата технология не е нито добра, нито лоша.

 

– Но може да дава повече възможности в едната посока, невинаги границата минава по средата.

– Тези възможности сме ние. Нашият вътрешен порив да кажем: „Стоп! Тук навлизаме в територия, където ще изгубим“.

Идваме в етичната система на програмиста. Къде е тя? Ако този човек няма определена религия, няма вяра, която да подхранва ценностната му система и постоянно да я пречиства, да пуска някакви антивирусни програми, тя също се затлачва.

 

Бирали Бирали

снимки: Добрин Кашавелов

 

„Какво толкова? Изкарвам добри пари“. И даже не парите са факторът, а

заложеното вътре в нас желание за приключение, за адреналин, за открития.

Започваш да предизвиква сам себе си, докъде можеш да стигнеш? Обаче тази игра в един момент става много страшна. Нещата не започват и не свършват в този свят. Влизаме в религиозния аспект, тук сме само временно…

Религията не е това, което виждаме, тя е много по-далеч от формата, с която я възприемаме в момента. Не можем да минем отвъд външния, визуалния момент.

Не можем да влезем по-навътре, защото не развиваме мозъка. Всичко ни се улеснява!

Ако тръгнем на път, веднага гледаме джипиеса. Никакво усилие не полагаме, а усилието е свързано с волята. Нямаме воля. Как хора без воля да са способни да кажат „Стоп!“?

Дигитални истории
<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

Кой е авторът – човек или изкуствен интелект?

Кой е авторът – човек или изкуствен интелект?

Можем ли днес да различим създаденото от човека от генерираното от изкуствения интелект? Нека заедно направим един експеримент, който може да даде много интересни отговори. 30 бързи въпроса,...

повече информация
Създават ли алгоритмите изкуство? 15 важни гледни точки

Създават ли алгоритмите изкуство? 15 важни гледни точки

Изкуственият интелект ни изумява с умението си да създава текст, изображения, вече дори видео. Технологии, които изглеждаха немислими, днес са част от ежедневието и в същото време са...

повече информация
„Тетрис“. Човекът не спира да побеждава себе си!

„Тетрис“. Човекът не спира да побеждава себе си!

„Ще умра, не си чувствам ръцете…“, продумва Блу Скути, преди да си даде сметка, че е изпълнил една мечта, изглеждаща невъзможна. Почти 4 десетилетия по-късно е победил, по един или друг начин,...

повече информация
„Всички истории вече са разказани. Но как ще трепти словото?“

„Всички истории вече са разказани. Но как ще трепти словото?“

Срещнали се режисьор, рапър, подкастър и журналист, програмист, писател. Разговор на разменени домакинства… и макар че сме само двама души (и, разбира се, още един чудесен подкастър), се оказа, че...

повече информация

Още публикации по темата:

От рубриката:

Д-р Физиев, който учи ИИ да чете гените ни

Д-р Физиев, който учи ИИ да чете гените ни

„Комбинацията между генетика и изкуствен интелект е изключително силна и очаквам през следващите години големи новини“, казва д-р Физиев.
Защо е толкова трудно да разчетем кои от гените ни са виновни за даден проблем? Какви са ползите от това, че днес всеки може да разчете генома си? Дали не надценихме наследствеността като основен фактор за това дали сме здрави? А как изглежда бъдещето на манипулирането на гени и „дизайнерските бебета“?
Д-р Петко Физиев е специалист по биоинформатика – онази област, която обещава през следващите години да научим повече за това как работят гените ни и каква част от здравословните проблеми са предизвикани от наследствеността. На напредъка в генните терапии се възлагат надежди да победи редица заболявания.
Гостът ни работи в сърцето на Силициевата долина, в компанията Illumina, световния доминатор в производството на апаратура за генетични изследвания. Начело е на екип, който разработва приложения с изкуствен интелект, които да помогнат в опознаването на собствената ни ДНК.

повече информация
„Всички истории вече са разказани. Но как ще трепти словото?“

„Всички истории вече са разказани. Но как ще трепти словото?“

Срещнали се режисьор, рапър, подкастър и журналист, програмист, писател. Разговор на разменени домакинства… и макар че сме само двама души (и, разбира се, още един чудесен подкастър), се оказа, че комбинациите от по три поприща имат още интересни нюанси.
Подкастът „2&200“ е класика в жанра, показва защо днес тази форма на разговор връща погледите и слуховете към споделените думи.
Продължаваме разговора за ценителите на Кустурица и/или Достоевски и/или Маркс. С Орлин Милчев, познат по-рано и като MC ATILA, способен да пробожда с думи и въпроси. Той е и режисьор, миналата година излезе дебютният му пълнометражен филм „Изкуството да падаш“. Гост с неочакван поглед към важните теми на днешния ден, преплетени с технологиите.
„Бич Божи“ отдавна не е един герой, а онова, което създадохме онлайн. Но какво се задава нататък?

повече информация
Има ли днес роден и чужд език?

Има ли днес роден и чужд език?

Има ли смисъл да учим чужди езици?
Машинният превод се разви изключително бързо, днес успява да улови голяма част от думите, което трябва да се появят на друг език… Стигнахме ли предела и какво се задава нататък?
Калоян Кирилов е писмен и устен преводач с почти две десетилетия опит. Благодарение на него думите на политици, лектори и други публични личности достигат до ушите на международната и българска аудитория. Начело е на компания за преводи и езикови услуги „Словоред“.
Преводаческото изкуство неслучайно се нарича така… дали обаче ще запази статута си? Занимание за избрани или предпоставка за успех е владеенето на чужд език в епохата на напредналия изкуствен интелект?
И… ще научим ли алгоритъма да попържа убедително, за да зазвучи като истински носител на езика?

повече информация

Най-новите:

Кой е авторът – човек или изкуствен интелект?

Кой е авторът – човек или изкуствен интелект?

Можем ли днес да различим създаденото от човека от генерираното от изкуствения интелект? Нека заедно направим един експеримент, който може да даде много интересни отговори.
30 бързи въпроса, достатъчни са около 5 минути. Иска се единствено да прецените кои от изображенията и текстовете са генерирани от изкуствения интелект и кои са създадени от хора.
Включете се, опитайте! Поканете и приятели! Колкото повече са участващите, толкова по-интересни ще са резултатите!
Събирането на резултати ще продължи две седмици – до 8 март 2024 г. Петима от участниците ще получат подарък.

повече информация
Създават ли алгоритмите изкуство? 15 важни гледни точки

Създават ли алгоритмите изкуство? 15 важни гледни точки

Могат ли алгоритмите да творят?
Средство или автор е изкуственият интелект?
Има ли как ИИ да създаде следващите изкуства, или вече творенето е безсмислено занимание?
Какво ще правим, когато произведенията му във всяка област станат неразличими от човешките?
Вече 3 години в този сайт събирам гледни точки по големите въпроси на днешния технологичен ден. Смятам, че е жизненоважно да включваме повече различни гласове в дискусиите по важните теми, каквато безспорно е тази за изкуството и творчеството.
Ето 15 от най-интересните и съдържателни мнения, които събрах за това време. Влизат ли в противоречие, или се допълват думите на технологичните хора, писателите, творците, духовниците и… котараците?

повече информация
Как да си генерираш инфлуенсър

Как да си генерираш инфлуенсър

Как да не харесаш Елена Димитрова или просто ЕкоЕлена? Руса, усмихната, позитивна. Пътува, живее природосъобразно, дава полезни съвети, предлага екзотични рецепти. Е, има и още един детайл. Тя… не съществува.
Направих си експеримент, създадох изцяло генерирана изкуствена героиня, в продължение на един месец публикувах съдържание от нейно име във Facebook и Instagram.
Какво ли се случи нататък?
84 519 души видяха поне една от нейните публикации, 8900 ги харесаха, профилите ѝ привлякоха 289 последователи. Тя получи няколко десетки умилителни мнения, 9 предложения за романтична връзка… И нито един коментар, който по някакъв начин да отрази факта, че всяка буква, всеки пиксел от онлайн образа на Елена е генериран от изкуствения интелект.
Алгоритмите вече минават теста на Тюринг, ами… ние дали ще го издържим?

повече информация
Д-р Физиев, който учи ИИ да чете гените ни

Д-р Физиев, който учи ИИ да чете гените ни

„Комбинацията между генетика и изкуствен интелект е изключително силна и очаквам през следващите години големи новини“, казва д-р Физиев.
Защо е толкова трудно да разчетем кои от гените ни са виновни за даден проблем? Какви са ползите от това, че днес всеки може да разчете генома си? Дали не надценихме наследствеността като основен фактор за това дали сме здрави? А как изглежда бъдещето на манипулирането на гени и „дизайнерските бебета“?
Д-р Петко Физиев е специалист по биоинформатика – онази област, която обещава през следващите години да научим повече за това как работят гените ни и каква част от здравословните проблеми са предизвикани от наследствеността. На напредъка в генните терапии се възлагат надежди да победи редица заболявания.
Гостът ни работи в сърцето на Силициевата долина, в компанията Illumina, световния доминатор в производството на апаратура за генетични изследвания. Начело е на екип, който разработва приложения с изкуствен интелект, които да помогнат в опознаването на собствената ни ДНК.

повече информация
„Тетрис“. Човекът не спира да побеждава себе си!

„Тетрис“. Човекът не спира да побеждава себе си!

„Ще умра, не си чувствам ръцете…“, продумва Блу Скути, преди да си даде сметка, че е изпълнил една мечта, изглеждаща невъзможна. Почти 4 десетилетия по-късно е победил, по един или друг начин, играта, която всички сме играли.
Застанал зад ретро телевизор с кинескоп, намерен след безброй трудности, щракащ 42 минути без откъсване копчетата на ретро джойстик със скорост над 20 удара в секунда… тийнейджърът ни припомни, че няма предел за човека.
Как обаче е възможно да победиш игра, която няма край? И защо този успех и пътят до него са много важна новина за хората като вид? За възможностите на човека, благодарение на сътрудничеството и на таланта винаги да върви напред… Да създава, да твори, да намира смисъл. Да ражда истории.
„Тетрис“ е легенда, която минава през поколенията, за да ражда следващи легенди. Преди седмица се разходихме из историята на играта, дошла от една съветска лаборатория по време на Студената война. А днес ще се докоснем до един съвсем пресен рекорд, който има да ни каже толкова много за нас самите.

повече информация
„Всички истории вече са разказани. Но как ще трепти словото?“

„Всички истории вече са разказани. Но как ще трепти словото?“

Срещнали се режисьор, рапър, подкастър и журналист, програмист, писател. Разговор на разменени домакинства… и макар че сме само двама души (и, разбира се, още един чудесен подкастър), се оказа, че комбинациите от по три поприща имат още интересни нюанси.
Подкастът „2&200“ е класика в жанра, показва защо днес тази форма на разговор връща погледите и слуховете към споделените думи.
Продължаваме разговора за ценителите на Кустурица и/или Достоевски и/или Маркс. С Орлин Милчев, познат по-рано и като MC ATILA, способен да пробожда с думи и въпроси. Той е и режисьор, миналата година излезе дебютният му пълнометражен филм „Изкуството да падаш“. Гост с неочакван поглед към важните теми на днешния ден, преплетени с технологиите.
„Бич Божи“ отдавна не е един герой, а онова, което създадохме онлайн. Но какво се задава нататък?

повече информация
Share This