Робог. В какво да вярва изкуственият интелект?

апр. 22, 2022 | Технологии

Робог. В какво да вярва изкуственият интелект?

22 април 2022 | Технологии

Ако един ден създадем технология, неразличима от човека, тя… дали ще вярва в Бог? Как ще изглежда нейният Бог? Дали пък няма сама да се опита да се превърне в Бог? Или… сама ще си бъде Бог?

Днес до голяма степен сме оставили религията встрани от секуларисткото ни ежедневие. И все пак, когато гледаме към бъдещето на технологиите, ще се наложи отново да се срещнем, казвам го от гледната точка на атеист.

Изкуственият интелект често е обект на ирония и има защо. Но е факт, че той напредва във все повече направления, при това по начин, който не бихме допуснали. Нещо повече. Всички най-забележими личности на последните две десетилетия призовават по един или друг начин да се погрижим за това как ще изглежда изкуственият интелект тогава, когато наистина ни наподоби или надмине. И колко ли ще е странно и същевременно логично, ако отговорът на тези въпроси се окаже в добрата стара вяра на човека?

 

Снимка: Mohamed Nohassi, Unsplash

 

Не пожелавай робота на ближния

„Изкуственият интелект винаги ще е машина и никога няма да бъде човек“, гласеше мнението на отец Николай Георгиев, с когото поговорихме преди няколко дни. Той обаче беше достатъчно широко скроен, за да отбележи, че това е само лична гледна точка, предопределена основно от погледа на неговото поколение.

„Роботиката може на направи по-добър света, ако е съчетана с общото благо. Ако технологичният напредък увеличава неравенствата, то той не е истински напредък“, казва папа Франциск и допълва: „Бъдещият напредък трябва да бъде ориентиран към зачитането на достойнството на човека и на Творението. Нека се молим напредъкът на роботиката и изкуствения интелект да бъде винаги в служба на човека. Можем да кажем дори да бъде хуманен“.

И така, дори папата отбелязва, че изкуственият интелект в обозримото бъдеще би могъл да издържи пред всички нас теста на Тюринг. Някога затворена в лабораториите, идеята на тази проверка беше да докаже кога разполагаме с технология, която може да ни убеди, че е човешко същество. Приказваш си с някого, без да го виждаш, и започваш да вярваш, че той наистина е човек, а не робот.

 

 

Робожието слово

Днес технологията е по-близо от всякога до това да го направи. Чатботовете се развиват заедно с алгоритмите и изчислителните възможности. Честно казано, и на мен понякога ми е по-лесно да намеря тема за разговор с роднините на Сири, отколкото с комшийката от четвъртия етаж.

Но личните теми не са важни, а големите. Дали вече сме постигнали алгоритъм, който може да се държи като човек, или скоро ще го постигнем… не е толкова важно, същественото е какво ще се случи после.

От Мъск до Хокинг, от папата до православния отец и писателя фантаст, не е случайно, че всички обръщат внимание към етичните норми, които би следвало да бъдат заложени в неразличимия от нас изкуствен интелект. И тук интересният въпрос гласи: какви да са тези етични норми?

Законите на роботиката днес звучат красиви, но абстракти и непълни, точно както 10-те Божи заповеди не се оказват недостатъчни и се налага човечеството да развие цяла наука за правораздаването.

Любен Дилов се опита да ги допълни с четвърта, докато днес политически неговата версия „син“ ни припомня, че етиката е доста по-тежка дисциплина.

 

Снимка: Julia Volk, Pexels

 

Блажени са вярващите

Философията… също може би не е успяла да извърви бързите стъпки на технологичното развитие, но ви обещавам някой ден да поканя философ, с когото да го обсъдим.

Така стигаме до идеалите. Като например, да си честен, да си добър човек. Да си добър християнин / будист / мюсюлманин / пастафарианец. Прекрасното в тях е, че винаги ще си останат утопии.

А може би разковничето е точно в утопиите? Именно те ни държат на моралното ниво, на което и ние днес, като хора, живеем със самочувствието на всезнаещи и можещи, готови да изчегъртваме от фейсбук профила си тези, които не споделят мнението ни, не са на страната ни в някой от поредните цивилизационни разломи, които ни изсипва настоящето?

„Машината е по-безупречна, по-безгрешна дори от всяко животно. Тя няма никакви намерения, освен нашите собствени“, пише Урсула Ле Гуин. И наистина, поне за момента технологията е до голяма степен функция на това, което ние влагаме в нея.

 

Снимка: Anke Sundermeier, Pixabay

 

Светият дух

Преплитат се много сфери, за всяка от които ще намерите много по-мъдри източници на информация и гледни точки. И все пак, ако днес трябваше да намерим и формулираме етичните принципи, които да въплътим в „душата“ на приближаващия или вече съществуващ изкуствен интелект… Дали наистина пътят не минава през религията, през вярата? През утопията, дори когато е ясно формулирана като такава? С риск да навлезем в още едно изпразнено от съдържание определение – на популизма.

Заради всяка достатъчно разпространила се религия на Земята са се проливали бездънни езера от кръв, историята им е покрита със страдание, а в днешните времена те не спират да бъдат както причина за цивилизационни разломи, така и неудобни злободневни фактори, спиращи мира.

И все пак, казвам го отново от гледната точка на атеист, религиите са наистина устойчива и развита етична формулировка за отношението между хората. И ето защо са логичната парадигма, когато заговорим за етика.

 

Снимка: Jonathan Borba, Pexels

 

Роботът не ще молитва

„Колко хубаво би било, ако растежът на научните и технологичните иновации, съответства на все по-голяма справедливост и социално приобщаване“, казва отново папа Франциск.

Да, знаем, че духовниците ги бива в мотивиращите слова, но ако продължим с конкретика, нещата стават доста по-сложни.

В призивите си за по-етична разработка на изкуствен интелект наистина са единни и учени, и хора на изкуството. Как обаче да изглеждат тези рамки, така и не става много ясно.

Най-известните опити в тази посока са 280-страничният документ на IEEE – Глобалната инженерна организация, и рамките, формулирани от Европейския съюз. Те обаче, може би и изпълнени със съдържание, остават встрани както от обществената дискусия, така и от масовото прилагане. А и дават гледната точка само на западната цивилизация.

 

7-те смъртни гряха

Жокер в тази посока може би дават днешните проблеми, които вече създават алгоритмите. Ако заговорим за социалните мрежи и търсещите машини, там изкуственият интелект е ежедневно решение, което цели да ни задържи максимално дълго вътре, предлагайки ни съдържанието, което ще го позволи. Така се озоваваме в собствения си балон на филтрите, от който излизането е почти невъзможно.

Етично ли е това? Формално да, защото сме кликнали при регистрирането си малкото квадратче, че сме съгласни съдържанието да ни се предоставя по този начин. И даже чистата лъжа, че сме прочели чаршафа с правила.

Друг пример е лицевото разпознаване. Както неотдавна обсъдихме в „Дигитални истории“, днес то е почти съвършено, само че никоя от големите компании, които разполага с него, не парадира с това. Защото то също може да е както ефективно оръжие за манипулация, така и възможност за тотален контрол, ако попадне в лоши ръце.

 

Снимка: ambroo, Pixabay

 

Конклав

И така, днес алгоритмите имат конкретни задачи. Имаме например такъв, който превежда между езиците и друг, който разпознава лица. Най-общо изкуственият интелект е добър тогава, когато на базата на голям обем данни открие закономерностите и реши една от следните задачи: или генерира следващата единица информация, или класифицира по някакъв критерии следващата единица, която му е подадена.

Факт е, че и в двете начинания той бързо става все по-добър, факт е също, че понякога го надценяваме. Но как ли ще изглежда следващото поколение, което ще е неразличимо в поведението си от това на човека, можем само да гадаем. Затова и етичните рамки, които би трябвало да му зададем, за момента са доста условни. И все пак би трябвало да мислим и говорим за тези теми, защото бъдещето в тази област почти винаги идва преди да сме повярвали, че е възможно.

Със сигурност пътят минава и през регулации. През юридически норми, които да определят правилата в областта на разработката на такива системи. За съжаление, днес това се случва в много малка степен.

 

Робот Божи

А попадайки в полето на чистата етика… за момента ИИ е до голяма степен това, което ние му подаваме като информация. Почти както е с хлапетата, ако попаднат в добра среда, четат смислени книги, ще си формират един светоглед, а той би бил доста различен, ако от малки се озоват в агресивна среда, или пък сред приятели с крайни възгледи.

ИИ бързо доказа, че може да стане агресивен, да проявява някои от най-нелицеприятни човешки качества. Показателен е примерът с чатбота Тай, „отроче“ на „Майкрософт“, което през 2016-а получи свой туитър акаунт с идеята да води разговори с останалите и да покаже колко са напреднали технологиите в тази област.

Наложи се да го спрат по-малко от денонощие по-късно. Няколко часа бяха достатъчни Кай да заяви, че ненавижда евреите, а Хитлер е бил прав. По-късно стана ясно, че зложелателни потребители на мрежата са използвали слабости в начина, по който се учи алгоритъмът.

Не би ми се искало например автопилотът на колата, в която се возя, изведнъж да реши, че хората не са важни или не съм му симпатичен…

Да, примерът е поостарял, но принципът е същият и днес. Тогава как да сме сигурни, че следващото поколение Кай ще може… нека го наречем най-общо, да различава доброто от злото?

 

 

Сик транзит

А кой ще го преценява? Дали ще стигнем пак до ситуацията, като в днешните социални мрежи, когато истината се определя от… незнайно кого.

Любопитно е да си припомним, че преди няколко години самият Зукърбърг каза, че иска „Фейсбук“ да играе ролята на църква за своите потребители. И от тогавашната, и от днешната гледна точка това поне за мен звучи плашещо.

Днес често се заглушават и блокират временно профилите на хора със собствена гледна точка, дори когато тя е напълно легитимна, представителна и подкрепена с аргументи. Независимо от коя част на спектъра. Често очевидно фалшиви новини продължават да шестват за сметка на цензурирането на доста по-безспорни твърдения. При това обикновено причината е, че преценката за това е в ръцете не на човек, а на алгоритъма на същите тези социални мрежи.

Значи може би пътят е да разполагаме с по-съвършен, нека го наречем етичен алгоритъм, който да следи всички останали системи? Напълно е възможно, но така пак се връщаме на това какво ще въплътим в него. Кое е добро и зло, кое поведение не може да се толерира, как трябва да се отнася по-съвършен алгоритъм към по-нисшите.

Отговорът на тези въпроси може да е жизненоважен за нас като вид, при това съвсем скоро. Някои учени вярват в задаващата се сингулярност, че ще дойде моментът, когато алгоритмите ще ни надраснат като интелектуални способности и този момент или ще ни извиси и нас като вид, или ще ни превърне в роби. Други не допускат, че това е възможно. Така или иначе, надали някой отрича, че изкуственият интелект ще става все по-добър и ще отваря все повече етични въпроси.

 

Снимка: Stefan Keller, Pixabay

 

Сидхарта

Да, религиите изглеждат като институциите, които могат да дадат много по темата. Само че и те са достатъчно различни и противоречащи помежду си. Дори да вземем пример с уж тръгналите от общи идеи и послания православие и католицизъм. Скоро ще се навърши хилядолетие, в което те продължават да не могат да решат един спор.

Тогава, дали да не обърнем поглед към изтока? Случайно ли е, че днес и доста по на запад се говори за спокойствието и миролюбивостта, които носи будизмът?

А може би няма как да намерим и изведем универсалните ценности, след като не можем да ги формулираме сами като вид? След като глобализацията ясно показа, че планетата ще продължи да се дели на откроими цивилизации, всяка със своя светоглед, както ни завеща Самуел Хънтингтън?

Трябва ли изкуственият интелект да бъде просто ограничен? Или това няма да е достатъчно? Трябва ли да ни възприема като божества, за да ни осигури неприкосновеност? Или пък да го накараме да вярва в Бог, за да е сигурно, че ще спазва етичните норми? Да се бои от Бог?

Кога ще разберем дали има душа – когато ни се усмихне, или когато ни разплаче? А ще може ли един ден да има… изкуствен свещеник? Той би могъл да бъде гарантирано безгрешен и много по-безпристрастен в оценките си…

 

Робот воскресе

Аз все пак вярвам, че универсални ценности могат да бъдат формулирани въпреки всички различия. Надали някой ще оспори легитимността на „Не лъжи, не кради…“ И все пак е нужна много повече дълбочина и мъдрост. Само че пътят минава през размисъл и диалог. През участието на учени, но и на религиозни водачи, на юристи, но и на хора на изкуството, при това от различни цивилизации.

Тази тема изглежда далечна и абстрактна на фона на всичко, което ни се случва през последните години. Но ако се опитваме да я избегнем, ако я подценяваме, тя може да ни създаде много по-големи проблеми като вид от всичко, което виждаме днес. И има само едно решение. Да си говорим така, както опитвам да го правя в „Дигитални истории“, да търсим решението поединично, така че да го намерим заедно. Технологиите и световната динамика ни вещаят все по-интересни времена. Дано да сме готови за тях…

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.

Най-нови публикации:

„Машините си остават естествено неинтелигентни“

„Машините си остават естествено неинтелигентни“

Владимир „Каладън“ Петков работи в айти сферата две десетилетия и половина, проследил е отблизо миналото и настоящето на информационните технологии, очаквайки бъдещето. Дългият му опит е свързан с...

повече информация
„Единственият ни шанс е да си спомним, че сме творци“

„Единственият ни шанс е да си спомним, че сме творци“

Кооператив, в който няма началници и подчинени, няма работно време, нито заплати. Докато в същото време работата върви, а доходите се разпределят от справедлив алгоритъм. Дали това е утопия или е...

повече информация
MrBeast: Ами ако… ти дам $1 млн.?

MrBeast: Ами ако… ти дам $1 млн.?

Стоите си на работното място, когато изведнъж… се задава невзрачен младеж с небрежна брадичка и пита: „Би ли напуснал работата си, ако веднага ти дам срещу това 100 000 долара?“ Как ще реагирате? Ще...

повече информация
Дънинг и Крюгер. Силата на незнанието

Дънинг и Крюгер. Силата на незнанието

Тези двамата днес са нарицателно за това как в мрежата, а и извън нея, колкото по-малко знае човек в дадена област, толкова е по-уверен в знанията си и готов да ги защитава, включително и агресивно....

повече информация

Още публикации по темата:

От рубриката:

БДС или фонетична? Битка за букви

БДС или фонетична? Битка за букви

Какво е разположението на буквите, които ползвате – според добрата стара подредба, дошла от пишещите машини, известна като БДС? Или фонетичната, при която буквите на кирилицата следват еквивалентите на тези от латиницата?
Има ли по-добро решение? Наистина ли от този избор зависи сериозно скоростта, с която набираме символи на компютъра? А дали и двата стандарта не са остарели, защото идват от времената, когато основната им цел е била да са удобни за пишеща машина?
Тази история започва преди 115 години, когато компютрите ги няма дори във въображението на хората…

повече информация
Дънинг и Крюгер. Силата на незнанието

Дънинг и Крюгер. Силата на незнанието

Психолозите Джъстин Крюгер и Дейвид Дънинг са създателите на знаменитата теория, която описва толкова добре голяма част от днешната комуникация в мрежата. Чрез нея можем да разберем още и за проблемите, които се натрупват що се отнася до начина, по който се информираме онлайн.
Теорията е проста, но и показателна, също както експеримента, от който се ражда. Със сигурност сте чували за нея, но е интересно не само да се заровим малко по-подробно в смисъла ѝ, а и да научим поучителната ѝ история.

повече информация
Стив Джобс воскресе!

Стив Джобс воскресе!

Чухте ли гостуването на Стив Джобс в подкаста на Джо Роган преди месец? О, беше супер интересно. „Компютрите имат силата да са 1000 пъти по-важни, отколкото са днес. Изхвърлям си компютъра през прозореца веднъж на няколко години, за да съм сигурен, че работи“. Стив се изяви в типичния си стил, с визионерство и чувство за хумор, докато разказваше и прелюбопитни моменти от историята на Apple.
Ама, чакайте… Стив Джобс не си ли отиде? Е, какво от това, интервюто е съвсем истинско.
Генерирано било от изкуствен интелект. Какво толкова, нали е интересно? Искате да поговорите с Айнщайн? Няма проблем, технологиите правят възможно дори това.
Готови ли сме за момента, когато компютрите ще могат да ни наподобят дотолкова, че няма да успеем да се различим и сами?
Как е възможно и редно ли е да се опитваме да „възкресяваме“ хора, създавайки по един или друг начин техни неразличими копия?

повече информация

Най-новите:

„Нищо не може да замени четенето!“

„Нищо не може да замени четенето!“

Леда Милева е символичен образ за българския ХХ век, а това е едно от последните ѝ интервюта, в което имах късмета аз да ѝ задавам въпросите.
Дъщеря на Гео Милев, авторка на знаменитото „Зайченце бяло“, писателка, преводачка, журналистка, дори политик.
Как виждаше тя компютърното бъдеще? Ще се окажат ли според нея технологиите по-силни от литературата? Как „Зайченцето бяло“ е произведението, което… писателката най-малко харесва, а се превръща в нейна запазена марка?
Леда Милева е родена на 5 февруари 1920 г. и си отива на същата дата точно 93 години по-късно.

повече информация
„Машините си остават естествено неинтелигентни“

„Машините си остават естествено неинтелигентни“

Как подценяването на етичната страна на изкуствения интелект доведе до огромни проблеми, застрашили основите на нашата цивилизация? Какви регулации подготвя ЕС по отношение на изкуствения интелект и могат ли те да забавят бума в тази област? Как идваха различните етапи от развитието на мрежата и какво да очакваме от Web 3.0?
Владимир Петков – Каладън, работи в айти сферата четвърт век, проследил е отблизо миналото и настоящето на информационните технологии, очаквайки бъдещето.
Опитът му е свързан с данните и иновациите. С приятеля му Еленко Еленков вече 6 години създават култовия подкаст „Говори ѝнтернет“, който вече е цяла платформа с пъстри по тематика, но обединени от качеството си подкасти.

повече информация
БДС или фонетична? Битка за букви

БДС или фонетична? Битка за букви

Какво е разположението на буквите, които ползвате – според добрата стара подредба, дошла от пишещите машини, известна като БДС? Или фонетичната, при която буквите на кирилицата следват еквивалентите на тези от латиницата?
Има ли по-добро решение? Наистина ли от този избор зависи сериозно скоростта, с която набираме символи на компютъра? А дали и двата стандарта не са остарели, защото идват от времената, когато основната им цел е била да са удобни за пишеща машина?
Тази история започва преди 115 години, когато компютрите ги няма дори във въображението на хората…

повече информация
„Единственият ни шанс е да си спомним, че сме творци“

„Единственият ни шанс е да си спомним, че сме творци“

Тодор Колев е опитен програмист, предприемач, ментор на впечатляващи таланти в областта на информационните технологии. Но също и човек със собствен, прелюбопитен поглед не само към технологиите, но и към развитието ни като цивилизация.
Бъдещето, което идва с напредъка на технологиите, е това, което го вълнува повече от всичко. Няколко години задълбочено се занимава с когнитивна психотерапия, а после и с… теология.
Готови ли сме за следващата стъпка в еволюцията, която идва с технологиите? Защо не се замисляме за огромните предизвикателства, които идват? Как бъдещето ни води към все по-децентрализирани решения? Съвременният икономически модел се задъхва от предизвикателствата на времето, но какво се задава след края на капитализма?

повече информация
MrBeast: Ами ако… ти дам $1 млн.?

MrBeast: Ами ако… ти дам $1 млн.?

Стоите си на работното място, когато изведнъж… се задава невзрачен младеж с небрежна брадичка и пита: „Би ли напуснал работата си, ако веднага ти дам срещу това 100 000 долара?“ Как ще реагирате? Ще се съгласите ли?
Искате ли да получите свой… остров? Ами собствено „Ламборджини“? Ей тъй, като подарък, без никакви уловки?
Онлайн няма невъзможни неща, а понякога на границата на провокацията се ражда смисълът.
Г-н Звяр – MrBeast, е прелюбопитен инфлуенсър, натрупал над сто милиона абонати, като просто… раздава парите нататък! Сюрреално организира скрита камера, която дори не е скрита. Трупа пари от реклами, за да ги раздава по зрелищен начин, понякога с провокираща задача, понякога… просто ей така. Лудост ли е това?!

повече информация
Дънинг и Крюгер. Силата на незнанието

Дънинг и Крюгер. Силата на незнанието

Психолозите Джъстин Крюгер и Дейвид Дънинг са създателите на знаменитата теория, която описва толкова добре голяма част от днешната комуникация в мрежата. Чрез нея можем да разберем още и за проблемите, които се натрупват що се отнася до начина, по който се информираме онлайн.
Теорията е проста, но и показателна, също както експеримента, от който се ражда. Със сигурност сте чували за нея, но е интересно не само да се заровим малко по-подробно в смисъла ѝ, а и да научим поучителната ѝ история.

повече информация
Share This