Робог. В какво да вярва изкуственият интелект?

апр. 22, 2022 | Технологии

Робог. В какво да вярва изкуственият интелект?

22 април 2022 | Технологии

Ако един ден създадем технология, неразличима от човека, тя… дали ще вярва в Бог? Как ще изглежда нейният Бог? Дали пък няма сама да се опита да се превърне в Бог? Или… сама ще си бъде Бог?

Днес до голяма степен сме оставили религията встрани от секуларисткото ни ежедневие. И все пак, когато гледаме към бъдещето на технологиите, ще се наложи отново да се срещнем, казвам го от гледната точка на атеист.

Изкуственият интелект често е обект на ирония и има защо. Но е факт, че той напредва във все повече направления, при това по начин, който не бихме допуснали. Нещо повече. Всички най-забележими личности на последните две десетилетия призовават по един или друг начин да се погрижим за това как ще изглежда изкуственият интелект тогава, когато наистина ни наподоби или надмине. И колко ли ще е странно и същевременно логично, ако отговорът на тези въпроси се окаже в добрата стара вяра на човека?

 

Снимка: Mohamed Nohassi, Unsplash

 

Не пожелавай робота на ближния

„Изкуственият интелект винаги ще е машина и никога няма да бъде човек“, гласеше мнението на отец Николай Георгиев, с когото поговорихме преди няколко дни. Той обаче беше достатъчно широко скроен, за да отбележи, че това е само лична гледна точка, предопределена основно от погледа на неговото поколение.

„Роботиката може на направи по-добър света, ако е съчетана с общото благо. Ако технологичният напредък увеличава неравенствата, то той не е истински напредък“, казва папа Франциск и допълва: „Бъдещият напредък трябва да бъде ориентиран към зачитането на достойнството на човека и на Творението. Нека се молим напредъкът на роботиката и изкуствения интелект да бъде винаги в служба на човека. Можем да кажем дори да бъде хуманен“.

И така, дори папата отбелязва, че изкуственият интелект в обозримото бъдеще би могъл да издържи пред всички нас теста на Тюринг. Някога затворена в лабораториите, идеята на тази проверка беше да докаже кога разполагаме с технология, която може да ни убеди, че е човешко същество. Приказваш си с някого, без да го виждаш, и започваш да вярваш, че той наистина е човек, а не робот.

 

 

Робожието слово

Днес технологията е по-близо от всякога до това да го направи. Чатботовете се развиват заедно с алгоритмите и изчислителните възможности. Честно казано, и на мен понякога ми е по-лесно да намеря тема за разговор с роднините на Сири, отколкото с комшийката от четвъртия етаж.

Но личните теми не са важни, а големите. Дали вече сме постигнали алгоритъм, който може да се държи като човек, или скоро ще го постигнем… не е толкова важно, същественото е какво ще се случи после.

От Мъск до Хокинг, от папата до православния отец и писателя фантаст, не е случайно, че всички обръщат внимание към етичните норми, които би следвало да бъдат заложени в неразличимия от нас изкуствен интелект. И тук интересният въпрос гласи: какви да са тези етични норми?

Законите на роботиката днес звучат красиви, но абстракти и непълни, точно както 10-те Божи заповеди не се оказват недостатъчни и се налага човечеството да развие цяла наука за правораздаването.

Любен Дилов се опита да ги допълни с четвърта, докато днес политически неговата версия „син“ ни припомня, че етиката е доста по-тежка дисциплина.

 

Снимка: Julia Volk, Pexels

 

Блажени са вярващите

Философията… също може би не е успяла да извърви бързите стъпки на технологичното развитие, но ви обещавам някой ден да поканя философ, с когото да го обсъдим.

Така стигаме до идеалите. Като например, да си честен, да си добър човек. Да си добър християнин / будист / мюсюлманин / пастафарианец. Прекрасното в тях е, че винаги ще си останат утопии.

А може би разковничето е точно в утопиите? Именно те ни държат на моралното ниво, на което и ние днес, като хора, живеем със самочувствието на всезнаещи и можещи, готови да изчегъртваме от фейсбук профила си тези, които не споделят мнението ни, не са на страната ни в някой от поредните цивилизационни разломи, които ни изсипва настоящето?

„Машината е по-безупречна, по-безгрешна дори от всяко животно. Тя няма никакви намерения, освен нашите собствени“, пише Урсула Ле Гуин. И наистина, поне за момента технологията е до голяма степен функция на това, което ние влагаме в нея.

 

Снимка: Anke Sundermeier, Pixabay

 

Светият дух

Преплитат се много сфери, за всяка от които ще намерите много по-мъдри източници на информация и гледни точки. И все пак, ако днес трябваше да намерим и формулираме етичните принципи, които да въплътим в „душата“ на приближаващия или вече съществуващ изкуствен интелект… Дали наистина пътят не минава през религията, през вярата? През утопията, дори когато е ясно формулирана като такава? С риск да навлезем в още едно изпразнено от съдържание определение – на популизма.

Заради всяка достатъчно разпространила се религия на Земята са се проливали бездънни езера от кръв, историята им е покрита със страдание, а в днешните времена те не спират да бъдат както причина за цивилизационни разломи, така и неудобни злободневни фактори, спиращи мира.

И все пак, казвам го отново от гледната точка на атеист, религиите са наистина устойчива и развита етична формулировка за отношението между хората. И ето защо са логичната парадигма, когато заговорим за етика.

 

Снимка: Jonathan Borba, Pexels

 

Роботът не ще молитва

„Колко хубаво би било, ако растежът на научните и технологичните иновации, съответства на все по-голяма справедливост и социално приобщаване“, казва отново папа Франциск.

Да, знаем, че духовниците ги бива в мотивиращите слова, но ако продължим с конкретика, нещата стават доста по-сложни.

В призивите си за по-етична разработка на изкуствен интелект наистина са единни и учени, и хора на изкуството. Как обаче да изглеждат тези рамки, така и не става много ясно.

Най-известните опити в тази посока са 280-страничният документ на IEEE – Глобалната инженерна организация, и рамките, формулирани от Европейския съюз. Те обаче, може би и изпълнени със съдържание, остават встрани както от обществената дискусия, така и от масовото прилагане. А и дават гледната точка само на западната цивилизация.

 

7-те смъртни гряха

Жокер в тази посока може би дават днешните проблеми, които вече създават алгоритмите. Ако заговорим за социалните мрежи и търсещите машини, там изкуственият интелект е ежедневно решение, което цели да ни задържи максимално дълго вътре, предлагайки ни съдържанието, което ще го позволи. Така се озоваваме в собствения си балон на филтрите, от който излизането е почти невъзможно.

Етично ли е това? Формално да, защото сме кликнали при регистрирането си малкото квадратче, че сме съгласни съдържанието да ни се предоставя по този начин. И даже чистата лъжа, че сме прочели чаршафа с правила.

Друг пример е лицевото разпознаване. Както неотдавна обсъдихме в „Дигитални истории“, днес то е почти съвършено, само че никоя от големите компании, които разполага с него, не парадира с това. Защото то също може да е както ефективно оръжие за манипулация, така и възможност за тотален контрол, ако попадне в лоши ръце.

 

Снимка: ambroo, Pixabay

 

Конклав

И така, днес алгоритмите имат конкретни задачи. Имаме например такъв, който превежда между езиците и друг, който разпознава лица. Най-общо изкуственият интелект е добър тогава, когато на базата на голям обем данни открие закономерностите и реши една от следните задачи: или генерира следващата единица информация, или класифицира по някакъв критерии следващата единица, която му е подадена.

Факт е, че и в двете начинания той бързо става все по-добър, факт е също, че понякога го надценяваме. Но как ли ще изглежда следващото поколение, което ще е неразличимо в поведението си от това на човека, можем само да гадаем. Затова и етичните рамки, които би трябвало да му зададем, за момента са доста условни. И все пак би трябвало да мислим и говорим за тези теми, защото бъдещето в тази област почти винаги идва преди да сме повярвали, че е възможно.

Със сигурност пътят минава и през регулации. През юридически норми, които да определят правилата в областта на разработката на такива системи. За съжаление, днес това се случва в много малка степен.

 

Робот Божи

А попадайки в полето на чистата етика… за момента ИИ е до голяма степен това, което ние му подаваме като информация. Почти както е с хлапетата, ако попаднат в добра среда, четат смислени книги, ще си формират един светоглед, а той би бил доста различен, ако от малки се озоват в агресивна среда, или пък сред приятели с крайни възгледи.

ИИ бързо доказа, че може да стане агресивен, да проявява някои от най-нелицеприятни човешки качества. Показателен е примерът с чатбота Тай, „отроче“ на „Майкрософт“, което през 2016-а получи свой туитър акаунт с идеята да води разговори с останалите и да покаже колко са напреднали технологиите в тази област.

Наложи се да го спрат по-малко от денонощие по-късно. Няколко часа бяха достатъчни Кай да заяви, че ненавижда евреите, а Хитлер е бил прав. По-късно стана ясно, че зложелателни потребители на мрежата са използвали слабости в начина, по който се учи алгоритъмът.

Не би ми се искало например автопилотът на колата, в която се возя, изведнъж да реши, че хората не са важни или не съм му симпатичен…

Да, примерът е поостарял, но принципът е същият и днес. Тогава как да сме сигурни, че следващото поколение Кай ще може… нека го наречем най-общо, да различава доброто от злото?

 

 

Сик транзит

А кой ще го преценява? Дали ще стигнем пак до ситуацията, като в днешните социални мрежи, когато истината се определя от… незнайно кого.

Любопитно е да си припомним, че преди няколко години самият Зукърбърг каза, че иска „Фейсбук“ да играе ролята на църква за своите потребители. И от тогавашната, и от днешната гледна точка това поне за мен звучи плашещо.

Днес често се заглушават и блокират временно профилите на хора със собствена гледна точка, дори когато тя е напълно легитимна, представителна и подкрепена с аргументи. Независимо от коя част на спектъра. Често очевидно фалшиви новини продължават да шестват за сметка на цензурирането на доста по-безспорни твърдения. При това обикновено причината е, че преценката за това е в ръцете не на човек, а на алгоритъма на същите тези социални мрежи.

Значи може би пътят е да разполагаме с по-съвършен, нека го наречем етичен алгоритъм, който да следи всички останали системи? Напълно е възможно, но така пак се връщаме на това какво ще въплътим в него. Кое е добро и зло, кое поведение не може да се толерира, как трябва да се отнася по-съвършен алгоритъм към по-нисшите.

Отговорът на тези въпроси може да е жизненоважен за нас като вид, при това съвсем скоро. Някои учени вярват в задаващата се сингулярност, че ще дойде моментът, когато алгоритмите ще ни надраснат като интелектуални способности и този момент или ще ни извиси и нас като вид, или ще ни превърне в роби. Други не допускат, че това е възможно. Така или иначе, надали някой отрича, че изкуственият интелект ще става все по-добър и ще отваря все повече етични въпроси.

 

Снимка: Stefan Keller, Pixabay

 

Сидхарта

Да, религиите изглеждат като институциите, които могат да дадат много по темата. Само че и те са достатъчно различни и противоречащи помежду си. Дори да вземем пример с уж тръгналите от общи идеи и послания православие и католицизъм. Скоро ще се навърши хилядолетие, в което те продължават да не могат да решат един спор.

Тогава, дали да не обърнем поглед към изтока? Случайно ли е, че днес и доста по на запад се говори за спокойствието и миролюбивостта, които носи будизмът?

А може би няма как да намерим и изведем универсалните ценности, след като не можем да ги формулираме сами като вид? След като глобализацията ясно показа, че планетата ще продължи да се дели на откроими цивилизации, всяка със своя светоглед, както ни завеща Самуел Хънтингтън?

Трябва ли изкуственият интелект да бъде просто ограничен? Или това няма да е достатъчно? Трябва ли да ни възприема като божества, за да ни осигури неприкосновеност? Или пък да го накараме да вярва в Бог, за да е сигурно, че ще спазва етичните норми? Да се бои от Бог?

Кога ще разберем дали има душа – когато ни се усмихне, или когато ни разплаче? А ще може ли един ден да има… изкуствен свещеник? Той би могъл да бъде гарантирано безгрешен и много по-безпристрастен в оценките си…

 

Робот воскресе

Аз все пак вярвам, че универсални ценности могат да бъдат формулирани въпреки всички различия. Надали някой ще оспори легитимността на „Не лъжи, не кради…“ И все пак е нужна много повече дълбочина и мъдрост. Само че пътят минава през размисъл и диалог. През участието на учени, но и на религиозни водачи, на юристи, но и на хора на изкуството, при това от различни цивилизации.

Тази тема изглежда далечна и абстрактна на фона на всичко, което ни се случва през последните години. Но ако се опитваме да я избегнем, ако я подценяваме, тя може да ни създаде много по-големи проблеми като вид от всичко, което виждаме днес. И има само едно решение. Да си говорим така, както опитвам да го правя в „Дигитални истории“, да търсим решението поединично, така че да го намерим заедно. Технологиите и световната динамика ни вещаят все по-интересни времена. Дано да сме готови за тях…

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.

Най-нови публикации:

Впечатляващо признание за Дигитални истории от конкурса Web Report!

Впечатляващо признание за Дигитални истории от конкурса Web Report!

Впечатляващо признание за Дигитални истории дойде от 6-ото издание на журналистическия конкурс Web Report. През последните години надпреварата се утвърди като водещ и най-реномиран журналистически...

повече информация
„Не чуждиците подкопават устоите на езика“

„Не чуждиците подкопават устоите на езика“

„Как се пише?“ е сайт, който си извоюва огромно значение за живота онлайн. Създателката му Павлина Върбанова на доброволни начала дава практични съвети за правописа, граматиката и пунктуацията с...

повече информация

Още публикации по темата:

От рубриката:

На 10-ия ден Брандън създаде JavaScript…

На 10-ия ден Брандън създаде JavaScript…

Знаете, един митичен персонаж за седмица създаде света. Брандън Айк за малко повече време – 10 дни, създаде друг нов свят, в който всички живеем… JavaScript. Една технология, която промени ежедневието ни, след като позволи да се създават сложни приложения онлайн. Да отворим браузъра, да се насочим към любимата страница и тя да е способна на чудеса.
Ето поучителната приказка за това как човек, почти случайно попаднал в епицентъра на събитията, може да изгради нещо огромно. Как в технологично динамичните времена съдбата бързо променя избраниците си и с едно нейно мигване от герой можеш да се превърнеш в аутсайдер.
Кой ли е този Брандън Айк? Защо и той, подобно на други компютърни легенди, днес не се радва на особена слава? Как се ражда JavaScript и защо, уж толкова подобен на другите, именно този език успя да промени революционно начина, по който ползваме компютрите?
console.log(„Започваме!“);

повече информация
Универсален базов доход. Време ли е да ни дават пари, без да работим?

Универсален базов доход. Време ли е да ни дават пари, без да работим?

По всичко личи, технологиите ще ни освободят доста време, но как ще се промени обществото? Какво представлява прословутият универсален базов доход? Кои са големите аргументи за и против идеята всеки да получава гарантирани пари? Или пък решението на новите предизвикателства може да се окаже 4-дневната работна седмица?
Изкуственият интелект има силата да промени ежедневието на всички ни. Днес се разделяме в крайни мнения за това колко е напреднала технологията. И все пак, надали има спор, че тя вече има потенциала да обърне с главата надолу почти всички индустрии и поприща.
Дали ще вземе хляба на мнозина от нас? Сигурно е, че има силата да ни отмени в поредната порция задачи, вземайки на своя страна много нови дейности. Появяват се и нови роли, както е било винаги, но какво ще правим ако темпото, с което това се случва, изостане? Ще успеят ли и как обществата в развитите страни да реагират на новото предизвикателство?
Идва 1 май, празникът на труда. Трудът със сигурност е нещо, за което си струва да се замисляме по-често, особено по нашите ширини, където винаги сме имали малко по-философски поглед към темата. Дотолкова, че и труда празнуваме с ден почивка…

повече информация
Технологиите вече четат мисли. Идва ли краят на свободата?

Технологиите вече четат мисли. Идва ли краят на свободата?

Технологиите вече позволяват мозъчните сигнали да се „превеждат“ в четими данни, първите пробиви са налице. Улисани в напредъка на изкуствения интелект и прословутия GPT, може да пропуснем една огромна стъпка, що се отнася до естествения. На нея обръща внимание проф. Нита Фарахани, учен и юрист с огромен опит.
„Днес вече има компании, които са способни да декодират мозъчните вълни“, каза тя на световния форум в Давос в началото на годината.
Готови ли сме за момента, когато някой ще чете мислите ни? Ще доведе ли това до тотален контрол, или ще направи живота ни по-удобен и смислен?

повече информация

Най-новите:

„Май нихилизмът е заложен в генома ни?“

„Май нихилизмът е заложен в генома ни?“

Ивайло Кунев разказва вдъхновяващи истории от българското минало по магичен начин… Тогава как ли стигнахме до думите в заглавието?
Лидерите, хората, които умеят да променят света, да водят, да градят, да убеждават. Именно те са голямата тема на днешния ни гост, който повече от десетилетие разработва и води програми по лидерство.
Ивайло има впечатляващ мениджърски и предприемачески опит, минаващ през десетилетията. Като в същото време умее да разказва – историите му за силните личности привличат огромен брой почитатели. Автор е на книгата „Лидерите: забравените истории на България“.
Лидерството. Тази тема е толкова тежка по нашите ширини, а и като цяло във времената, в които живеем. Затова е време да потърсим трудните отговори.
Струва ли си да съберем историите на политиците, на предприемачите и на… хановете? Защо ни е трудно да формираме политически елит и да имаме автентични лидери като нация? Какво би написал Толкин, ако беше българин? Как българската история може да се превърне в лично приключение и да дава вдъхновяващи примери, които да ни помагат да сбъдваме мечтите си?

повече информация
Геният, който два пъти отрови света

Геният, който два пъти отрови света

Технологиите променят живота ни главоломно, а техните създатели – изобретателите, програмистите, са героите на днешния ден… Поне обикновено е така, докато не се окаже, че дадената иновация, която светът е посрещнал с невероятен ентусиазъм, е смъртоносно опасна.
И все пак, има един изобретател, който дълги години се носи на вълната на славата, тачен като гений, докато междувременно… създава не една, а две технологии, които впоследствие се оказва, че са стрували човешки животи. Щетите, които те са нанесли, засягат цялата планета и ще продължат да са тук дори за следващите поколения.
Историята на Томас Миджли-младши си струва да си припомняме всеки път, когато се зарадваме на поредния огромен пробив, свързан с изкуствения интелект или каквато и да било друга технология. Защото е показателна за това колко е важно да преценим рисковете, преди да полетим на крилете на ентусиазма. Колко е важно да мислим и обсъждаме големите въпроси, които ни поставят технологиите и за които все нямаме време…

повече информация
Впечатляващо признание за Дигитални истории от конкурса Web Report!

Впечатляващо признание за Дигитални истории от конкурса Web Report!

Впечатляващо признание за Дигитални истории дойде от 6-ото издание на журналистическия конкурс Web Report. През последните години надпреварата се утвърди като водещ и най-реномиран журналистически конкурс у нас.
Тази година Георги Караманев и Дигитални истории заслужиха наградата в категория „Изкуство и култура“ за  експеримента „Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?“. В 6-те категории на конкурса се включиха 185 журналисти. 
Наградата е особено признание и защото Дигитални истории е сред победителите за трета поредна година!

повече информация
Д-р Райчев, който даде Koprivshtitsa на Google

Д-р Райчев, който даде Koprivshtitsa на Google

„Хора като него трябва да са лицето на България. Точно хората, измислящи неща, които човек не може да си представи“ казва за днешния ни гост проф. Мартин Вечев.
Д-р Веселин Райчев е единственият българин, чиято докторска дисертация попада в световния топ 3 на годината за всички сфери на информатиката. При това с нея той създава цяло ново направление, което днес изживява бум – концепцията изкуственият интелект да пише компютърен код.
Той създава стартъпа DeepCode, използващ машинно самообучение, за да прави компютърните програми по-сигурни. Компанията е придобита от Snyk, а нашият гост остава начело на ИИ направлението в нея.
Кариерата му започва в Google, благодарение на него и днес Google Maps препоръчва пътя ни чрез алгоритми с български имена. През последните години е канен за професор в МИТ, Станфорд и други реномирани университети. Той обаче избира професионално да се свърже с българския проект ИНСАИТ, който има силата да промени цялата екосистема на нашата айти индустрия.
Какво ли мисли изследователят за последните големи новини от света на изкуствения интелект? Помага или пречи големият шум по темата и кои са важните решения, които е време да вземем? Защо дори отдалеч той не спира да се вълнува от случващото се у нас и какъв според него е пътят към по-доброто развитие на страната ни? Кое го кара да изостави впечатляващата кариера в Google, за да продължи в света на науката?

повече информация
Баща и син. Щафетата на живота

Баща и син. Щафетата на живота

Баща и порасналият му син, хванати за ръце. Зад тях е онова, което ги определя, а пред тях – обективът с безпощадната си прямота. Важните снимки нямат нужда от думи.
Тази Дигитална история е толкова голяма, колкото живота. Защото ни връща към най-естествения цикъл, дава ни проницателния си поглед към смисъла.
Фотографът Валерий Пощаров има двама синове – на 12 и 9 години. Една сутрин ги води към училище и се замисля как неусетно ще дойде моментът, когато те вече няма да искат да ги държи за ръка.
Така се ражда идеята да улавя в обектива си бащи и порасналите им синове, заобиколени от онази среда, която ги представя най-добре. Резултатът: снимки, които не просто разказват истории, а рисуват вселени…

повече информация
„Не чуждиците подкопават устоите на езика“

„Не чуждиците подкопават устоите на езика“

„Как се пише?“ е сайт, който си извоюва огромно значение за живота онлайн. Създателката му Павлина Върбанова на доброволни начала дава практични съвети за правописа, граматиката и пунктуацията с всичките им нюанси.
Разговорът с нея „Как се пише?“ „Незнам“ продължава да бъде най-четената дигитална история.
В навечерието на 24 май се срещаме, за да продължим. Ще поговорим за думите, които ни изграждат, и за отношението ни към тях.
За празника, за понякога фалшивата помпозност, която го съпровожда, и за честното ни отношение към езика. За това как думите са огледало на самите нас и на живота. За думите, които превръщаме в оръжия, и за технологиите, които им дават огромни сили да рушат.

повече информация
Share This