Ако един ден създадем технология, неразличима от човека, тя… дали ще вярва в Бог? Как ще изглежда нейният Бог? Дали пък няма сама да се опита да се превърне в Бог? Или… сама ще си бъде Бог?

Днес до голяма степен сме оставили религията встрани от секуларисткото ни ежедневие. И все пак, когато гледаме към бъдещето на технологиите, ще се наложи отново да се срещнем, казвам го от гледната точка на атеист.

Изкуственият интелект често е обект на ирония и има защо. Но е факт, че той напредва във все повече направления, при това по начин, който не бихме допуснали. Нещо повече. Всички най-забележими личности на последните две десетилетия призовават по един или друг начин да се погрижим за това как ще изглежда изкуственият интелект тогава, когато наистина ни наподоби или надмине. И колко ли ще е странно и същевременно логично, ако отговорът на тези въпроси се окаже в добрата стара вяра на човека?

 

 

Не пожелавай робота на ближния

„Изкуственият интелект винаги ще е машина и никога няма да бъде човек“, гласеше мнението на отец Николай Георгиев, с когото поговорихме преди няколко дни. Той обаче беше достатъчно широко скроен, за да отбележи, че това е само лична гледна точка, предопределена основно от погледа на неговото поколение.

„Роботиката може на направи по-добър света, ако е съчетана с общото благо. Ако технологичният напредък увеличава неравенствата, то той не е истински напредък“, казва папа Франциск и допълва: „Бъдещият напредък трябва да бъде ориентиран към зачитането на достойнството на човека и на Творението. Нека се молим напредъкът на роботиката и изкуствения интелект да бъде винаги в служба на човека. Можем да кажем дори да бъде хуманен“.

И така, дори папата отбелязва, че изкуственият интелект в обозримото бъдеще би могъл да издържи пред всички нас теста на Тюринг. Някога затворена в лабораториите, идеята на тази проверка беше да докаже кога разполагаме с технология, която може да ни убеди, че е човешко същество. Приказваш си с някого, без да го виждаш, и започваш да вярваш, че той наистина е човек, а не робот.

 

 

Робожието слово

Днес технологията е по-близо от всякога до това да го направи. Чатботовете се развиват заедно с алгоритмите и изчислителните възможности. Честно казано, и на мен понякога ми е по-лесно да намеря тема за разговор с роднините на Сири, отколкото с комшийката от четвъртия етаж.

Но личните теми не са важни, а големите. Дали вече сме постигнали алгоритъм, който може да се държи като човек, или скоро ще го постигнем… не е толкова важно, същественото е какво ще се случи после.

От Мъск до Хокинг, от папата до православния отец и писателя фантаст, не е случайно, че всички обръщат внимание към етичните норми, които би следвало да бъдат заложени в неразличимия от нас изкуствен интелект. И тук интересният въпрос гласи: какви да са тези етични норми?

Законите на роботиката днес звучат красиви, но абстракти и непълни, точно както 10-те Божи заповеди не се оказват недостатъчни и се налага човечеството да развие цяла наука за правораздаването.

Любен Дилов се опита да ги допълни с четвърта, докато днес политически неговата версия „син“ ни припомня, че етиката е доста по-тежка дисциплина.

 

 

Блажени са вярващите

Философията… също може би не е успяла да извърви бързите стъпки на технологичното развитие, но ви обещавам някой ден да поканя философ, с когото да го обсъдим.

Така стигаме до идеалите. Като например, да си честен, да си добър човек. Да си добър християнин / будист / мюсюлманин / пастафарианец. Прекрасното в тях е, че винаги ще си останат утопии.

А може би разковничето е точно в утопиите? Именно те ни държат на моралното ниво, на което и ние днес, като хора, живеем със самочувствието на всезнаещи и можещи, готови да изчегъртваме от фейсбук профила си тези, които не споделят мнението ни, не са на страната ни в някой от поредните цивилизационни разломи, които ни изсипва настоящето?

„Машината е по-безупречна, по-безгрешна дори от всяко животно. Тя няма никакви намерения, освен нашите собствени“, пише Урсула Ле Гуин. И наистина, поне за момента технологията е до голяма степен функция на това, което ние влагаме в нея.

 

 

Светият дух

Преплитат се много сфери, за всяка от които ще намерите много по-мъдри източници на информация и гледни точки. И все пак, ако днес трябваше да намерим и формулираме етичните принципи, които да въплътим в „душата“ на приближаващия или вече съществуващ изкуствен интелект… Дали наистина пътят не минава през религията, през вярата? През утопията, дори когато е ясно формулирана като такава? С риск да навлезем в още едно изпразнено от съдържание определение – на популизма.

Заради всяка достатъчно разпространила се религия на Земята са се проливали бездънни езера от кръв, историята им е покрита със страдание, а в днешните времена те не спират да бъдат както причина за цивилизационни разломи, така и неудобни злободневни фактори, спиращи мира.

И все пак, казвам го отново от гледната точка на атеист, религиите са наистина устойчива и развита етична формулировка за отношението между хората. И ето защо са логичната парадигма, когато заговорим за етика.

 

 

Роботът не ще молитва

„Колко хубаво би било, ако растежът на научните и технологичните иновации, съответства на все по-голяма справедливост и социално приобщаване“, казва отново папа Франциск.

Да, знаем, че духовниците ги бива в мотивиращите слова, но ако продължим с конкретика, нещата стават доста по-сложни.

В призивите си за по-етична разработка на изкуствен интелект наистина са единни и учени, и хора на изкуството. Как обаче да изглеждат тези рамки, така и не става много ясно.

Най-известните опити в тази посока са 280-страничният документ на IEEE – Глобалната инженерна организация, и рамките, формулирани от Европейския съюз. Те обаче, може би и изпълнени със съдържание, остават встрани както от обществената дискусия, така и от масовото прилагане. А и дават гледната точка само на западната цивилизация.

 

7-те смъртни гряха

Жокер в тази посока може би дават днешните проблеми, които вече създават алгоритмите. Ако заговорим за социалните мрежи и търсещите машини, там изкуственият интелект е ежедневно решение, което цели да ни задържи максимално дълго вътре, предлагайки ни съдържанието, което ще го позволи. Така се озоваваме в собствения си балон на филтрите, от който излизането е почти невъзможно.

Етично ли е това? Формално да, защото сме кликнали при регистрирането си малкото квадратче, че сме съгласни съдържанието да ни се предоставя по този начин. И даже чистата лъжа, че сме прочели чаршафа с правила.

Друг пример е лицевото разпознаване. Както неотдавна обсъдихме в „Дигитални истории“, днес то е почти съвършено, само че никоя от големите компании, които разполага с него, не парадира с това. Защото то също може да е както ефективно оръжие за манипулация, така и възможност за тотален контрол, ако попадне в лоши ръце.

 

 

Конклав

И така, днес алгоритмите имат конкретни задачи. Имаме например такъв, който превежда между езиците и друг, който разпознава лица. Най-общо изкуственият интелект е добър тогава, когато на базата на голям обем данни открие закономерностите и реши една от следните задачи: или генерира следващата единица информация, или класифицира по някакъв критерии следващата единица, която му е подадена.

Факт е, че и в двете начинания той бързо става все по-добър, факт е също, че понякога го надценяваме. Но как ли ще изглежда следващото поколение, което ще е неразличимо в поведението си от това на човека, можем само да гадаем. Затова и етичните рамки, които би трябвало да му зададем, за момента са доста условни. И все пак би трябвало да мислим и говорим за тези теми, защото бъдещето в тази област почти винаги идва преди да сме повярвали, че е възможно.

Със сигурност пътят минава и през регулации. През юридически норми, които да определят правилата в областта на разработката на такива системи. За съжаление, днес това се случва в много малка степен.

 

Робот Божи

А попадайки в полето на чистата етика… за момента ИИ е до голяма степен това, което ние му подаваме като информация. Почти както е с хлапетата, ако попаднат в добра среда, четат смислени книги, ще си формират един светоглед, а той би бил доста различен, ако от малки се озоват в агресивна среда, или пък сред приятели с крайни възгледи.

ИИ бързо доказа, че може да стане агресивен, да проявява някои от най-нелицеприятни човешки качества. Показателен е примерът с чатбота Тай, „отроче“ на „Майкрософт“, което през 2016-а получи свой туитър акаунт с идеята да води разговори с останалите и да покаже колко са напреднали технологиите в тази област.

Наложи се да го спрат по-малко от денонощие по-късно. Няколко часа бяха достатъчни Кай да заяви, че ненавижда евреите, а Хитлер е бил прав. По-късно стана ясно, че зложелателни потребители на мрежата са използвали слабости в начина, по който се учи алгоритъмът.

Не би ми се искало например автопилотът на колата, в която се возя, изведнъж да реши, че хората не са важни или не съм му симпатичен…

Да, примерът е поостарял, но принципът е същият и днес. Тогава как да сме сигурни, че следващото поколение Кай ще може… нека го наречем най-общо, да различава доброто от злото?

 

 

Сик транзит

А кой ще го преценява? Дали ще стигнем пак до ситуацията, като в днешните социални мрежи, когато истината се определя от… незнайно кого.

Любопитно е да си припомним, че преди няколко години самият Зукърбърг каза, че иска „Фейсбук“ да играе ролята на църква за своите потребители. И от тогавашната, и от днешната гледна точка това поне за мен звучи плашещо.

Днес често се заглушават и блокират временно профилите на хора със собствена гледна точка, дори когато тя е напълно легитимна, представителна и подкрепена с аргументи. Независимо от коя част на спектъра. Често очевидно фалшиви новини продължават да шестват за сметка на цензурирането на доста по-безспорни твърдения. При това обикновено причината е, че преценката за това е в ръцете не на човек, а на алгоритъма на същите тези социални мрежи.

Значи може би пътят е да разполагаме с по-съвършен, нека го наречем етичен алгоритъм, който да следи всички останали системи? Напълно е възможно, но така пак се връщаме на това какво ще въплътим в него. Кое е добро и зло, кое поведение не може да се толерира, как трябва да се отнася по-съвършен алгоритъм към по-нисшите.

Отговорът на тези въпроси може да е жизненоважен за нас като вид, при това съвсем скоро. Някои учени вярват в задаващата се сингулярност, че ще дойде моментът, когато алгоритмите ще ни надраснат като интелектуални способности и този момент или ще ни извиси и нас като вид, или ще ни превърне в роби. Други не допускат, че това е възможно. Така или иначе, надали някой отрича, че изкуственият интелект ще става все по-добър и ще отваря все повече етични въпроси.

 

 

Сидхарта

Да, религиите изглеждат като институциите, които могат да дадат много по темата. Само че и те са достатъчно различни и противоречащи помежду си. Дори да вземем пример с уж тръгналите от общи идеи и послания православие и католицизъм. Скоро ще се навърши хилядолетие, в което те продължават да не могат да решат един спор.

Тогава, дали да не обърнем поглед към изтока? Случайно ли е, че днес и доста по на запад се говори за спокойствието и миролюбивостта, които носи будизмът?

А може би няма как да намерим и изведем универсалните ценности, след като не можем да ги формулираме сами като вид? След като глобализацията ясно показа, че планетата ще продължи да се дели на откроими цивилизации, всяка със своя светоглед, както ни завеща Самуел Хънтингтън?

Трябва ли изкуственият интелект да бъде просто ограничен? Или това няма да е достатъчно? Трябва ли да ни възприема като божества, за да ни осигури неприкосновеност? Или пък да го накараме да вярва в Бог, за да е сигурно, че ще спазва етичните норми? Да се бои от Бог?

Кога ще разберем дали има душа – когато ни се усмихне, или когато ни разплаче? А ще може ли един ден да има… изкуствен свещеник? Той би могъл да бъде гарантирано безгрешен и много по-безпристрастен в оценките си…

 

Робот воскресе

Аз все пак вярвам, че универсални ценности могат да бъдат формулирани въпреки всички различия. Надали някой ще оспори легитимността на „Не лъжи, не кради…“ И все пак е нужна много повече дълбочина и мъдрост. Само че пътят минава през размисъл и диалог. През участието на учени, но и на религиозни водачи, на юристи, но и на хора на изкуството, при това от различни цивилизации.

Тази тема изглежда далечна и абстрактна на фона на всичко, което ни се случва през последните години. Но ако се опитваме да я избегнем, ако я подценяваме, тя може да ни създаде много по-големи проблеми като вид от всичко, което виждаме днес. И има само едно решение. Да си говорим така, както опитвам да го правя в „Дигитални истории“, да търсим решението поединично, така че да го намерим заедно. Технологиите и световната динамика ни вещаят все по-интересни времена. Дано да сме готови за тях…