Робог. В какво да вярва изкуственият интелект?

апр. 22, 2022 | Технологии

Робог. В какво да вярва изкуственият интелект?

22 април 2022 | Технологии

Ако един ден създадем технология, неразличима от човека, тя… дали ще вярва в Бог? Как ще изглежда нейният Бог? Дали пък няма сама да се опита да се превърне в Бог? Или… сама ще си бъде Бог?

Днес до голяма степен сме оставили религията встрани от секуларисткото ни ежедневие. И все пак, когато гледаме към бъдещето на технологиите, ще се наложи отново да се срещнем, казвам го от гледната точка на атеист.

Изкуственият интелект често е обект на ирония и има защо. Но е факт, че той напредва във все повече направления, при това по начин, който не бихме допуснали. Нещо повече. Всички най-забележими личности на последните две десетилетия призовават по един или друг начин да се погрижим за това как ще изглежда изкуственият интелект тогава, когато наистина ни наподоби или надмине. И колко ли ще е странно и същевременно логично, ако отговорът на тези въпроси се окаже в добрата стара вяра на човека?

 

Снимка: Mohamed Nohassi, Unsplash

 

Не пожелавай робота на ближния

„Изкуственият интелект винаги ще е машина и никога няма да бъде човек“, гласеше мнението на отец Николай Георгиев, с когото поговорихме преди няколко дни. Той обаче беше достатъчно широко скроен, за да отбележи, че това е само лична гледна точка, предопределена основно от погледа на неговото поколение.

„Роботиката може на направи по-добър света, ако е съчетана с общото благо. Ако технологичният напредък увеличава неравенствата, то той не е истински напредък“, казва папа Франциск и допълва: „Бъдещият напредък трябва да бъде ориентиран към зачитането на достойнството на човека и на Творението. Нека се молим напредъкът на роботиката и изкуствения интелект да бъде винаги в служба на човека. Можем да кажем дори да бъде хуманен“.

И така, дори папата отбелязва, че изкуственият интелект в обозримото бъдеще би могъл да издържи пред всички нас теста на Тюринг. Някога затворена в лабораториите, идеята на тази проверка беше да докаже кога разполагаме с технология, която може да ни убеди, че е човешко същество. Приказваш си с някого, без да го виждаш, и започваш да вярваш, че той наистина е човек, а не робот.

 

 

Робожието слово

Днес технологията е по-близо от всякога до това да го направи. Чатботовете се развиват заедно с алгоритмите и изчислителните възможности. Честно казано, и на мен понякога ми е по-лесно да намеря тема за разговор с роднините на Сири, отколкото с комшийката от четвъртия етаж.

Но личните теми не са важни, а големите. Дали вече сме постигнали алгоритъм, който може да се държи като човек, или скоро ще го постигнем… не е толкова важно, същественото е какво ще се случи после.

От Мъск до Хокинг, от папата до православния отец и писателя фантаст, не е случайно, че всички обръщат внимание към етичните норми, които би следвало да бъдат заложени в неразличимия от нас изкуствен интелект. И тук интересният въпрос гласи: какви да са тези етични норми?

Законите на роботиката днес звучат красиви, но абстракти и непълни, точно както 10-те Божи заповеди не се оказват недостатъчни и се налага човечеството да развие цяла наука за правораздаването.

Любен Дилов се опита да ги допълни с четвърта, докато днес политически неговата версия „син“ ни припомня, че етиката е доста по-тежка дисциплина.

 

Снимка: Julia Volk, Pexels

 

Блажени са вярващите

Философията… също може би не е успяла да извърви бързите стъпки на технологичното развитие, но ви обещавам някой ден да поканя философ, с когото да го обсъдим.

Така стигаме до идеалите. Като например, да си честен, да си добър човек. Да си добър християнин / будист / мюсюлманин / пастафарианец. Прекрасното в тях е, че винаги ще си останат утопии.

А може би разковничето е точно в утопиите? Именно те ни държат на моралното ниво, на което и ние днес, като хора, живеем със самочувствието на всезнаещи и можещи, готови да изчегъртваме от фейсбук профила си тези, които не споделят мнението ни, не са на страната ни в някой от поредните цивилизационни разломи, които ни изсипва настоящето?

„Машината е по-безупречна, по-безгрешна дори от всяко животно. Тя няма никакви намерения, освен нашите собствени“, пише Урсула Ле Гуин. И наистина, поне за момента технологията е до голяма степен функция на това, което ние влагаме в нея.

 

Снимка: Anke Sundermeier, Pixabay

 

Светият дух

Преплитат се много сфери, за всяка от които ще намерите много по-мъдри източници на информация и гледни точки. И все пак, ако днес трябваше да намерим и формулираме етичните принципи, които да въплътим в „душата“ на приближаващия или вече съществуващ изкуствен интелект… Дали наистина пътят не минава през религията, през вярата? През утопията, дори когато е ясно формулирана като такава? С риск да навлезем в още едно изпразнено от съдържание определение – на популизма.

Заради всяка достатъчно разпространила се религия на Земята са се проливали бездънни езера от кръв, историята им е покрита със страдание, а в днешните времена те не спират да бъдат както причина за цивилизационни разломи, така и неудобни злободневни фактори, спиращи мира.

И все пак, казвам го отново от гледната точка на атеист, религиите са наистина устойчива и развита етична формулировка за отношението между хората. И ето защо са логичната парадигма, когато заговорим за етика.

 

Снимка: Jonathan Borba, Pexels

 

Роботът не ще молитва

„Колко хубаво би било, ако растежът на научните и технологичните иновации, съответства на все по-голяма справедливост и социално приобщаване“, казва отново папа Франциск.

Да, знаем, че духовниците ги бива в мотивиращите слова, но ако продължим с конкретика, нещата стават доста по-сложни.

В призивите си за по-етична разработка на изкуствен интелект наистина са единни и учени, и хора на изкуството. Как обаче да изглеждат тези рамки, така и не става много ясно.

Най-известните опити в тази посока са 280-страничният документ на IEEE – Глобалната инженерна организация, и рамките, формулирани от Европейския съюз. Те обаче, може би и изпълнени със съдържание, остават встрани както от обществената дискусия, така и от масовото прилагане. А и дават гледната точка само на западната цивилизация.

 

7-те смъртни гряха

Жокер в тази посока може би дават днешните проблеми, които вече създават алгоритмите. Ако заговорим за социалните мрежи и търсещите машини, там изкуственият интелект е ежедневно решение, което цели да ни задържи максимално дълго вътре, предлагайки ни съдържанието, което ще го позволи. Така се озоваваме в собствения си балон на филтрите, от който излизането е почти невъзможно.

Етично ли е това? Формално да, защото сме кликнали при регистрирането си малкото квадратче, че сме съгласни съдържанието да ни се предоставя по този начин. И даже чистата лъжа, че сме прочели чаршафа с правила.

Друг пример е лицевото разпознаване. Както неотдавна обсъдихме в „Дигитални истории“, днес то е почти съвършено, само че никоя от големите компании, които разполага с него, не парадира с това. Защото то също може да е както ефективно оръжие за манипулация, така и възможност за тотален контрол, ако попадне в лоши ръце.

 

Снимка: ambroo, Pixabay

 

Конклав

И така, днес алгоритмите имат конкретни задачи. Имаме например такъв, който превежда между езиците и друг, който разпознава лица. Най-общо изкуственият интелект е добър тогава, когато на базата на голям обем данни открие закономерностите и реши една от следните задачи: или генерира следващата единица информация, или класифицира по някакъв критерии следващата единица, която му е подадена.

Факт е, че и в двете начинания той бързо става все по-добър, факт е също, че понякога го надценяваме. Но как ли ще изглежда следващото поколение, което ще е неразличимо в поведението си от това на човека, можем само да гадаем. Затова и етичните рамки, които би трябвало да му зададем, за момента са доста условни. И все пак би трябвало да мислим и говорим за тези теми, защото бъдещето в тази област почти винаги идва преди да сме повярвали, че е възможно.

Със сигурност пътят минава и през регулации. През юридически норми, които да определят правилата в областта на разработката на такива системи. За съжаление, днес това се случва в много малка степен.

 

Робот Божи

А попадайки в полето на чистата етика… за момента ИИ е до голяма степен това, което ние му подаваме като информация. Почти както е с хлапетата, ако попаднат в добра среда, четат смислени книги, ще си формират един светоглед, а той би бил доста различен, ако от малки се озоват в агресивна среда, или пък сред приятели с крайни възгледи.

ИИ бързо доказа, че може да стане агресивен, да проявява някои от най-нелицеприятни човешки качества. Показателен е примерът с чатбота Тай, „отроче“ на „Майкрософт“, което през 2016-а получи свой туитър акаунт с идеята да води разговори с останалите и да покаже колко са напреднали технологиите в тази област.

Наложи се да го спрат по-малко от денонощие по-късно. Няколко часа бяха достатъчни Кай да заяви, че ненавижда евреите, а Хитлер е бил прав. По-късно стана ясно, че зложелателни потребители на мрежата са използвали слабости в начина, по който се учи алгоритъмът.

Не би ми се искало например автопилотът на колата, в която се возя, изведнъж да реши, че хората не са важни или не съм му симпатичен…

Да, примерът е поостарял, но принципът е същият и днес. Тогава как да сме сигурни, че следващото поколение Кай ще може… нека го наречем най-общо, да различава доброто от злото?

 

 

Сик транзит

А кой ще го преценява? Дали ще стигнем пак до ситуацията, като в днешните социални мрежи, когато истината се определя от… незнайно кого.

Любопитно е да си припомним, че преди няколко години самият Зукърбърг каза, че иска „Фейсбук“ да играе ролята на църква за своите потребители. И от тогавашната, и от днешната гледна точка това поне за мен звучи плашещо.

Днес често се заглушават и блокират временно профилите на хора със собствена гледна точка, дори когато тя е напълно легитимна, представителна и подкрепена с аргументи. Независимо от коя част на спектъра. Често очевидно фалшиви новини продължават да шестват за сметка на цензурирането на доста по-безспорни твърдения. При това обикновено причината е, че преценката за това е в ръцете не на човек, а на алгоритъма на същите тези социални мрежи.

Значи може би пътят е да разполагаме с по-съвършен, нека го наречем етичен алгоритъм, който да следи всички останали системи? Напълно е възможно, но така пак се връщаме на това какво ще въплътим в него. Кое е добро и зло, кое поведение не може да се толерира, как трябва да се отнася по-съвършен алгоритъм към по-нисшите.

Отговорът на тези въпроси може да е жизненоважен за нас като вид, при това съвсем скоро. Някои учени вярват в задаващата се сингулярност, че ще дойде моментът, когато алгоритмите ще ни надраснат като интелектуални способности и този момент или ще ни извиси и нас като вид, или ще ни превърне в роби. Други не допускат, че това е възможно. Така или иначе, надали някой отрича, че изкуственият интелект ще става все по-добър и ще отваря все повече етични въпроси.

 

Снимка: Stefan Keller, Pixabay

 

Сидхарта

Да, религиите изглеждат като институциите, които могат да дадат много по темата. Само че и те са достатъчно различни и противоречащи помежду си. Дори да вземем пример с уж тръгналите от общи идеи и послания православие и католицизъм. Скоро ще се навърши хилядолетие, в което те продължават да не могат да решат един спор.

Тогава, дали да не обърнем поглед към изтока? Случайно ли е, че днес и доста по на запад се говори за спокойствието и миролюбивостта, които носи будизмът?

А може би няма как да намерим и изведем универсалните ценности, след като не можем да ги формулираме сами като вид? След като глобализацията ясно показа, че планетата ще продължи да се дели на откроими цивилизации, всяка със своя светоглед, както ни завеща Самуел Хънтингтън?

Трябва ли изкуственият интелект да бъде просто ограничен? Или това няма да е достатъчно? Трябва ли да ни възприема като божества, за да ни осигури неприкосновеност? Или пък да го накараме да вярва в Бог, за да е сигурно, че ще спазва етичните норми? Да се бои от Бог?

Кога ще разберем дали има душа – когато ни се усмихне, или когато ни разплаче? А ще може ли един ден да има… изкуствен свещеник? Той би могъл да бъде гарантирано безгрешен и много по-безпристрастен в оценките си…

 

Робот воскресе

Аз все пак вярвам, че универсални ценности могат да бъдат формулирани въпреки всички различия. Надали някой ще оспори легитимността на „Не лъжи, не кради…“ И все пак е нужна много повече дълбочина и мъдрост. Само че пътят минава през размисъл и диалог. През участието на учени, но и на религиозни водачи, на юристи, но и на хора на изкуството, при това от различни цивилизации.

Тази тема изглежда далечна и абстрактна на фона на всичко, което ни се случва през последните години. Но ако се опитваме да я избегнем, ако я подценяваме, тя може да ни създаде много по-големи проблеми като вид от всичко, което виждаме днес. И има само едно решение. Да си говорим така, както опитвам да го правя в „Дигитални истории“, да търсим решението поединично, така че да го намерим заедно. Технологиите и световната динамика ни вещаят все по-интересни времена. Дано да сме готови за тях…

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист и писател. Още за мен – тук.
Дигитални истории

Най-нови публикации:

„Свободният човек не би смятал телефона си за нещо изключително“

„Свободният човек не би смятал телефона си за нещо изключително“

Днешният гост няма нужда от представяне, дори първото му име е достатъчно, за да привлече внимание. Китодар Тодоров е популярен артист, телевизионен водещ. Но също и герой от мемове, опитен геймър,...

повече информация
Останете любопитни!

Останете любопитни!

Кой е родният град на Яворов? Свищов. Изхалюцинирал го е изкуственият интелект, доста некадърно, ще предположите. Само че не беше той, казах го аз, участвайки в телевизионно предаване в праймтайма...

повече информация
Васил Анастасов. VR среща взаимоучителната метода

Васил Анастасов. VR среща взаимоучителната метода

Той е на 21, а вече е помогнал на повече от 200 деца да направят първите си стъпки в професионално поприще, което може да се превърне в успешна кариера. Днес Васил Анастасов се е заел с още една...

повече информация

Още публикации по темата:

От рубриката:

Останете любопитни!

Останете любопитни!

Кой е родният град на Яворов? Свищов.
Изхалюцинирал го е изкуственият интелект, доста некадърно, ще предположите. Само че не беше той, казах го аз, участвайки в телевизионно предаване в праймтайма на най-старата българска телевизия. Бих предположил, че е по-вероятно да не позная собственото си име, а не родното място на един от хората, чиято история ме вълнува цял живот. Обаче го сбърках и скоро няма да ходя в Чирпан.
Знанието не е даденост. Любопитството не идва само, а иска усилие.
Има ли обаче смисъл да помним къде е роден Яворов във времената, когато можем да го проверим за части от секундата?
Щеше ли да пише различни стихове, ако беше от Свищов?
Ще знаят ли следващите поколения къде е роден, как е писал? От какво се е вълнувал, къде и как е срещнал любовта?
Ако решите, питайте ChatGPT. Или Конституционния съд.
А моят личен отговор гласи: днес е по-важно отвсякога да останем любопитни!

повече информация
Васил Анастасов. VR среща взаимоучителната метода

Васил Анастасов. VR среща взаимоучителната метода

Той е на 21, а вече е помогнал на повече от 200 деца да направят първите си стъпки в професионално поприще, което може да се превърне в успешна кариера.
Днес Васил Анастасов се е заел с още една кауза. С помощта на модерните технологии да направи българските музеи по-атрактивни, привлекателни за младите. В началото сам извървява пътя към магията не миналото, за да разбере смисъла и важността на експонатите, които иначе се крият зад неразбираеми витрини с неатрактивни табели.
Хайде, нека потърсим заедно съкровище! Да опитаме да намерим важните пътеки сред обраслата поляна. За това как да превърнем музеите в магнетични места за младите. Къде се крият любопитството и желанието да споделяш знание, да помагаш. За историите на фона на най-модерните технологии в разработването на компютърни игри и системи с добавена и виртуална реалност. Запретвайте ръкави, чака ни приключение!

повече информация
Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното родителство?
Тези и още много важни въпроси отправих в началото на февруари към родителите и близките на деца до 11 години. Анкетата на Дигитални истории събра повече от 350 мнения. Изводите са показателни, замислящи. Посланията, събрани там, си струва да бъдат четени и обсъждани.
Благодаря от сърце на всеки, който я попълни, на всеки, който помогна повече хора да се включат! Ето какви се оказаха резултатите.

повече информация

Най-новите:

„Свободният човек не би смятал телефона си за нещо изключително“

„Свободният човек не би смятал телефона си за нещо изключително“

Днешният гост няма нужда от представяне, дори първото му име е достатъчно, за да привлече внимание.
Китодар Тодоров е популярен артист, телевизионен водещ. Но също и герой от мемове, опитен геймър, който кани гости, за да играят онлайн, докато си говорят за живота…
Дали ще се получи забавен разговор? Или по-скоро ще ни даде поводи да се замислим…? За днешното ни място в света на технологиите, за компютърните игри като начин на живот. За трудния баланс и големите въпроси.
А как ли се раждат мемовете с Китодар, които забавляват всички ни и стават толкова популярни онлайн?
„Цялата ни съвременна цивилизация е построена на някакви машинки, от които сме зависими, и това е много тъпо. Един истински свободен човек не би трябвало да смята телефона за нещо изключително важно, нито компютъра. Това го губим с времето, защото усещането е, че ни дават всичко. Че технологиите ни дават свобода, а не е така. Напротив, те ни създават повече зависимости.“
Очаква ни неочакван разговор!

повече информация
Останете любопитни!

Останете любопитни!

Кой е родният град на Яворов? Свищов.
Изхалюцинирал го е изкуственият интелект, доста некадърно, ще предположите. Само че не беше той, казах го аз, участвайки в телевизионно предаване в праймтайма на най-старата българска телевизия. Бих предположил, че е по-вероятно да не позная собственото си име, а не родното място на един от хората, чиято история ме вълнува цял живот. Обаче го сбърках и скоро няма да ходя в Чирпан.
Знанието не е даденост. Любопитството не идва само, а иска усилие.
Има ли обаче смисъл да помним къде е роден Яворов във времената, когато можем да го проверим за части от секундата?
Щеше ли да пише различни стихове, ако беше от Свищов?
Ще знаят ли следващите поколения къде е роден, как е писал? От какво се е вълнувал, къде и как е срещнал любовта?
Ако решите, питайте ChatGPT. Или Конституционния съд.
А моят личен отговор гласи: днес е по-важно отвсякога да останем любопитни!

повече информация
Дженсън Хуанг. Магьосникът на NVIDIA

Дженсън Хуанг. Магьосникът на NVIDIA

Той е една от големите звезди на днешния ден. С 30-годишна упоритост гради компанията, която се превърна в най-скъпо оценената за всички времена. Когато дойде време да представи поредния иновативен чип, той се превръща в маркетингова икона.
Дженсън Хуанг грабва коженото яке, излиза пред уютната за него светлина на прожекторите и шоуто започва.
Мъдростта на изтока среща лустрото на запада. Един от най-богатите американци, единствен в списъка, който е роден в Китай (…в известен смисъл). Историята му идва, за да покаже, че и днес силните личности имат значение. Струва си да извървим заедно прелюбопитния му път, а и да чуем вижданията му за бъдещето, в което всички ние ще живеем.

повече информация
Иван Попов, който улови бъдещето

Иван Попов, който улови бъдещето

„Мирогледът на човек зависи съществено от неговия информационен метаболизъм.“
„Човек за човека е бот. А бот за бота е човек. Но що за човек е ботът? И що за бот е човекът?“
Иван Попов е майстор на силогизмите и не само. Той е писател, оставил ни малко на брой произведения от началото на новото хилядолетие. Макар приживе да има само един издаден роман, при това в малък тираж, той си остава митично име.
Защото по неповторим начин представя бъдещето. Улавя тенденциите, събира искриците познание, които рисуват пъстрата картина на технологичния утрешен ден. Успява да срещне науката и литературата, които рамо до рамо да търсят човешкото и надчовешкото, да улавят тенденции.
Посланията на Иван Попов са силни, вълнуващи, замислящи днес, повече от всякога. Благодаря от сърце на Николай Генов, който привлече вниманието ми към този забележителен писател, прогностик, журналист, учен. Според мен е важно думите и името му да стигнат до повече хора. Ще се радвам на всякаква подкрепа – разкази на хора, които са го познавали, помощ за популяризиране на творчеството му или просто добри идеи. Пишете ми!

повече информация
Бил Гейтс и Философският камък

Бил Гейтс и Философският камък

Представяте ли си основателя на „Майкрософт“ като крадец на време? Как катеренето на високи планински върхове предопределя най-големите му успехи в софтуерния свят? Защо мечтата да победи баба си на карти е сред основните идеи, превърнали го в най-богатия човек на планетата?
Надали някой би обвинил Бил Гейтс, че притежава уменията на блестящ белетрист, обаче историите, които ни разказва един от най-важните (харесвани или не) хора на нашето време определено са впечатляващи. Избрах да ви разкажа 8 от тях…

повече информация
Васил Анастасов. VR среща взаимоучителната метода

Васил Анастасов. VR среща взаимоучителната метода

Той е на 21, а вече е помогнал на повече от 200 деца да направят първите си стъпки в професионално поприще, което може да се превърне в успешна кариера.
Днес Васил Анастасов се е заел с още една кауза. С помощта на модерните технологии да направи българските музеи по-атрактивни, привлекателни за младите. В началото сам извървява пътя към магията не миналото, за да разбере смисъла и важността на експонатите, които иначе се крият зад неразбираеми витрини с неатрактивни табели.
Хайде, нека потърсим заедно съкровище! Да опитаме да намерим важните пътеки сред обраслата поляна. За това как да превърнем музеите в магнетични места за младите. Къде се крият любопитството и желанието да споделяш знание, да помагаш. За историите на фона на най-модерните технологии в разработването на компютърни игри и системи с добавена и виртуална реалност. Запретвайте ръкави, чака ни приключение!

повече информация
Share This