„Само в рамките на 5 години технологиите, базирани на изкуствения интелект, ще навлязат във всяка област. Те ще са край нас от раждането до смъртта ни“.

Близкото технологично бъдеще все по-често звучи като научна фантастика. Когато обаче дадем думата на доказан учен и от него чуем дори по-смели прогнози, нещата изглеждат съвсем различно.

Доц. Мариана Тодорова е футуролог, работи в Института по философия и социология към БАН. Доктор по философия, има кратка специализация в Харвард, в международната програма за лидерство на Държавния департамент на САЩ и Китайската академия за управление. Била е един мандат народен представител.

Автор на книгата „Изкуствен интелект. Кратка история на развитието и етични аспекти по темата“. Миналата година представи България в междуправителствената среща за изработване на етична рамка за изкуствен интелект под егидата на ЮНЕСКО.

Наистина ли само до 5 години технологиите, задвижвани от ИИ, ще навлязат във всяка човешка област? Как ще изглежда животът ни тогава? Закъснели ли сме с опитите да въведем етични правила в този тип разработки? Идва ли времето на генералния изкуствен интелект?

Как изглежда бъдещето ни като вид?

– Неотдавна един гост ми каза формулировка, която ми се стори много точна. Склонни сме да надценяваме краткосрочния ефект от технологиите и подценяваме дългосрочния. Има ли нещо такова, когато заговорим за изкуствения интелект?

– Вероятно в подхода и популяризирането има такава тенденция. Но сериозният проблем е масовото неразбиране какво представляват този тип технологии, за това темата обраства с митове. Първата много ясна демаркация е, че

днес имаме тесен изкуствен интелект, който умее да решава една конкретна задача.

Независимо с какъв подход – дали с машинно самообучение, невронни мрежи или обучение чрез семантични езици, се създава модел и се постигат все по-добри резултати.

Докато това, което хората проектират и от което се страхуват най-вече, е изкуственият интелект, който би бил осъзнат. Този, който би имал съзнание и не само такова, каквото го познаваме, а и което рефлектира от опита в някаква реална среда.

Поводът за опасения към днешна дата би трябвало да бъде, че ние не можем да контролираме много от рисковете. Особено използвайки невронните мрежи, програмистите не виждат какво се случва под третия слой. Знае се, че „Гугъл“ имат много сериозен пробив и най-вероятно скоро ще го обявят – модела GPT-4. Те непрекъснато задействат един модел, пускат го да се тества и когато видят нещо притеснително, например много силно изразено пристрастие, bias, го спират и променят, по това работят огромни екипи.

снимки: Добрин Кашавелов

– Неговият предшественик GPT-3 определено привлече огромно внимание и е впечатляващо колко бързо напредват разработките в тази посока. Кои са според вас основните рискове в тази област, за които си струва да помислим навреме като общество?

– Невъзможността за достатъчен контрол е проблем, който трябва да решат професионалистите, ако могат. Аз мисля, че в дългосрочен план няма да е възможно. Колкото по-напреднал е изкуственият интелект, толкова повече характеристики ще носи на черна кутия, каквато е и нашият мозък. И не защото не го програмираме правилно, или програмистите не умеят, просто това е пределно сложна и комплексна система.

Но това, което всъщност хората подценяват и към което трябва да си изградят адаптационен отговор, е, че

няма човешка сфера, която ще остане неповлияна от дигиталните технологии, задвижвани от изкуствения интелект.

Моят призив винаги е той да се разглежда отделно, защото останалите технологии наистина имат всички параметри на такива, докато той се развива в посока, при която ще трябва да мислим за него в съвсем различни категории, на отделна същност дори.

От раждането до смъртта ни всяка човешка област ще бъде проникната от тези технологии. Включително и в чисто биологични процеси и такива, които не сме свикнали да приемаме като бизнес ниша.

Китайската комунистическа партия в свои документи говори за производство на хора между 2030 г. и 2050 г.

И това не е научна фантастика и трансхуманизъм, а концепция за развитието на синтетична биология, подпомогната от изкуствения интелект, който следва геномното проследяване и избира най-добрия геном за човека. Разбира се, това поражда дълбоки морално-етични въпроси.

– А после идва и бъдещето на изкуствените утроби, за което също се говори все по-сериозно…

– Да, вече се правят такива опити с мишки. След това виждаме в какъв мащабен план се развива въздействието на ИИ в образованието и здравеопазването. „Киндъл“ направиха експеримент, в който включиха своето устройство към платформа, базирана на ИИ.

Ние четем електронната книга, а тя чете нас.

По лицевите експресии, по движението на погледа, по концентрирането върху определено съдържание се прави когнитивна деконструкция къде имаме затруднения, кой текст е непонятен за мозъка. Това може да събере информация и да създаде персонализиран подход в образованието, но от друга страна така се събират много чувствителни данни.

Медицината и земеделието според мен са полетата, където най-бързо и успешно навлиза ИИ. Особено в земеделието има много повече възможностите, защото липсват морално-етичните рискове.

Платформата „Д-р Уотсън“ диагностицира тривиални заболявания и по време на пандемията се използваше от потребители, които нямаха достъп до човешки лекари. Напредват телемедицината и всички преносими устройства, които събират данни от нас. Измервайки параметри като пот, слюнка, кръвно налягане, дори правейки анализ на дъха, който може да даде информация за над 300 заболявания. Камери, свързани с ИИ, по начина, по който се движим, или по лицевите ни експресии могат да деконструират заболяване. Можем да продължим с темите за остаряването, дълголетието и безсмъртието. Но както казва Ювал Харари, това дава възможност да бъдем наблюдавани или хакнати „под кожата“.

снимки: Добрин Кашавелов

– Докато обаче безсмъртието все още звучи като далечно бъдеще във всеки от аспектите му, това навлизане на ИИ във все повече професии ще промени из основи пазара на труда. Какво очаквате най-вече в тази посока?

– Не се сещам за професия, която няма да бъде повлияна. Хората не виждат и не усещат краткосрочните ефекти, но промяната идва много бързо. Дори не е вярно, че у нас това става по-бавно, бизнесът днес е интернационален. Миналата седмица бях във фабриката за шоколад в Своге. Поточната линия е изцяло роботизирана и е най-бързата от своя тип в света, правят се 6600 бонбона за минута. Има работници, които се отказват още по време на инструктажа, защото ги шокира този прекалено близък контакт с роботите.

Автоматизацията, роботизацията и изкуственият интелект ще навлязат във всяка една сфера, като предвиждам, че това ще стане до 5 години. Тогава големият въпрос, който вече касае правителствата, е как да се намери баланс между съществуващите професии, новите технологии и запазването на работните места и на доходите. Вероятно ще трябва да се търси решение за алтернативни доходи, които не са от труд. Да, тези нови технологии създават нови възможности, съответно и работни места, но те са профилирани, свързани са с много специфични дигитални умения, поне на базово ниво, което в България сериозно липсва, а и в Европа също.

– Дотук стана дума само за тесния ИИ, който предлага едно конкретно решение. А как изглеждат нещата, когато отидем по-надалеч в прогнозите? Към генералния ИИ и дори прословутата сингулярност…

– Според мен това, от което трябва да се притесняваме, наистина е създаването на генерален или общ ИИ, а след това и на супер ИИ. Разликата между тях е тънка, Ник Бострьом казва, че в момента, когато се появи единият, буквално на следващия час ще има и супер изкуствен интелект, защото той много бързо, експоненциално ще се самообучи да ни превъзхожда многократно.

Знаете за дебата, други смятат, че това никога няма да стане, защото въпросът за съзнанието е ключов. Стивън Пинкър, любимият учен на Бил Гейтс, казва, че това не може да стане. Но пък според Ювал Харари не е необходимо съзнание, което ние имаме. Ако изобщо говорим за съзнание, което да е антропоцентрично, подобно на нас. Достатъчната бързина на алгоритмите може да доведе до ново качество.

Говорейки с ваши колеги, които се занимават с ИИ, ги питам защо се получават пробивите например с GPT-4 или мултимодалния ИИ на Китай. Според тях за това помага все по-мащабната база, на която могат да бъдат обучавани. GPT-4 ще е обучен с 570 милиарда изречения. Колкото повече са данните, толкова повече се появяват клъстери на съзнание. Тоест виждаме, че фактори като „количество“ и „бързина“ може и да се окажат достатъчни, за да симулират съзнание.

За мен това е по-скоро хипотеза, но ми се струва, че в един момент

човечеството и нашето развитие започват да се пригаждат към технологиите, а не обратното.

И този когнитивен упадък, тази посредственост, залезът на експертността и на науката ми се струва, че се адаптира към едно такова технологизирано и много стерилно мислене. Хората търсят кратки пътища, в науката това се наричат евристики. Когато гостувам в телевизия, за 10 минути ми задават въпроси, които са за 20 часа, а не всичко може да бъде смляно и представено, така става ненаучно и девалвира.

снимки: Добрин Кашавелов

– Тоест, дори когато не говорим за истинско съзнание, достатъчните натрупвания могат да го наподобят и дори надминат?

– Тезата ми е, че може би не е необходимо този генерален ИИ да развие съзнание, подобно на нашето. Просто определени параметри като бързина и количество, които да стимулират асоциативността, ще са достатъчни, за да се симулират такива процеси. Според мен е по-вероятно да се появи такъв генерален ИИ и именно той трябва да ни притеснява.

Миналата година участвах на междуправителствена среща на ЮНЕСКО за етичните рамки за ИИ. Лично мен ме безпокои фактът , че политиците първо възприемат всичко това просто като технология, като софтуер, а то отдавна надхвърля тези граници. И второ, не мислят за него като за технология в непрекъснато развитие.

Говорейки за тесен ИИ, трябва винаги да обсъждаме рисковете, но възможностите все още са много повече, защото се намират много важни решения. Страховете и притесненията трябва да идват заради генералния ИИ и те трябва да бъдат дискутирани от разработчици и инженери, от философи, етици, психолози, всякакъв тип социални учени. А после това да бъде обяснявано на хората, които вземат решенията, на политиците.

– Това е една от големите теми и на „Дигитални истории“. Давал съм думата и на хора от съвсем различни области, като например свещеник, диригент, фотограф. И въпреки това постоянно се сблъсквам с груба ирония, със скепсиса в социалните мрежи: пълни глупости, това е толкова далечно, фантазия. Какъв е шансът да надценяваме тези технологии, да им приписваме повече възможности, както на тесния, така и на генералния ИИ?

– Тесния ИИ не бихме могли да го надценим. Споменахте свещеник, в Япония вече има храм, където тази функция изпълнява робот, базиран на ИИ. Германия направи проект да завърши десетата симфония на Бетовен. Той е оставил само щрихи и платформа, базирана на ИИ, беше обучена с музиката от това време, не само на Бетовен, но и на негови съмишленици. Дори има спекулации, че Банкси е ИИ или поне сътрудничество между художник и алгоритъм.

Тоест, виждаме, че той навлиза във всякакви област, в творческите формира нови ниши, нов тип изкуства, а в медицината може да открива отклонения на микроравнище. Просто защото ние нямаме когнитивните способности да боравим с такъв обем информация и да откриваме модели.

Подценява се, защото хората не виждат примерите, или по-скоро не им обръщат внимание. Те гледат холивудски филми, най-много да общуват със Сири или Алекса, но много бързо ще започнат да забелязват повече приложения. Доколкото вече за генералния ИИ, може и Стивън Пинкър да се окаже прав. Ние нямаме отговор какво е нашето съзнание, както несъзнавано и подсъзнание, то не се продуцира от мозъка, това е ясно.

Един известен американски учен, Ерик Дрекслър, казва, че е по-добре да го оставим на нивото, което ни предоставя набор и комплекс от услуги във всички сфери, но не се развива повече и не превключва между тях. Макар че според мен това, което сега правят „Гугъл“ и в Китай, вече е отвъд тази граница.

Надценяването по-скоро е в търсенето на приликата с човека, но то не е дългосрочно.

снимки: Добрин Кашавелов

– Мъск критикува подхода на „Гугъл“, казвайки, че достъпът на алгоритъм без достатъчен контрол до такива обеми информация е краят ни като вид. Затова по-скоро дава другата парадигма: да се свържем сами с компютрите чрез мозъчно-компютърен интерфейс „Неуралинк“. Дали това не е по-разумното дългосрочно решение?

– Аз наблюдавам Илон Мъск, той доста еволюира във възгледите си. 2015 – 2018-а той споделяше опасенията на Стивън Хокинг и по-скоро инвестираше в концепцията за отворен изкуствен интелект, OpenAI, в който всеки да може да добавя съдържание, за да може. ИИ да отразява състоянието на човечеството, на общностите, на обществата. Но се видя, че много чатботове всъщност показват расизъм, фашизъм и други крайни проявления, просто защото пристрастията (biases) се съдържат там и то в концентриран вид.

Струва ми се това, без той изрично да го е заявявал, беше предпоставката Мъск да стигне до концепцията, че нашият мозък трябва да бъде свързан с облачна система или ИИ и това да е част от човешкото подобрение. Правени са опити с маймуни и прасета, има дори конструиран робот, който да прави тази операция при хора. Много подробно беше обяснено, че се отваря конкретно място от човешкия череп, изрязва се малка тъкан от мозъка, която се счита за ненужна, с размера на бучка захар и се имплементира устройството, което е като монета от 50 стотинки. Това, което не се казва, е, че веднъж имплантирано, то може да деактивирано, но не и извадено, защото носи рискове за мозъка.

Според мен най-голямото предизвикателство е да се спазят законите на термодинамиката. Всяко устройство, включително и моят компютър в момента, прегрява. Знаете какво се случва с белтъка, когато прегрее – коагулация и смърт.

Вече ако отидем отвъд, не знаейки все още какво е съзнание и как то задвижва нашите волеви актове, с наличието на едно такова устройства в далечното бъдеще ние няма да знаем кое е наше волеизявление и кое е механизъм, който подтиква нашия мозък да прави нещо.

– В тази посока има и голяма психологическа бариера, която трябва да преминем и може да ни се наложи да го направим изключително бързо.

– Неотдавна говорих с една професорка от Южна Корея, която иска да си имплантира „Неуралинк“, защото казва, че това е единственият начин да остане конкурентоспособна. Иначе няма да е атрактивна за студентите, няма да има необходимите знания, защото се развива линейно, а технологиите – експоненциално.

Хората се дезориентират и технологиите способстват за това. Всеки ден в света се произвежда толкова информация, колкото за последните 8000 години преди технологиите. Но ние нямаме никакво време да рефлектираме върху нея, да правим изводи. Би могло и да има силна тенденция завой на човечеството към науките за ментално здраве, за самоусъвършенстване. Но вероятно това ще има и и много силен тренд за свързване с технологиите – технологичен абсолютизъм, и това, което де факто ще ни превърне в киборги.

– Дали има някакви смислени модели, които да канализират по-осмислено информацията, така че да възприемаме нещата, които се случват по-адекватно? Имам предвид някаква форма на журналистика, която ще ни изкара от балоните. Която професионално да представя наистина важните неща, а не начинът, по който се информираме, да се затваря все повече в социалните мрежи, там да се деформира, да се опростява. Да пропускаме всички огромни теми и проблеми, за които сега си говорим с вас, а малцина се вълнуват.

– На мен би ми се искало, но предполагам, че

първо ще стигнем до някакъв информационен катаклизъм и след това ще се търсят решения.

Следейки трендовете на „Нетфликс“ и „Епъл тв“, те търсят персонализирано, индивидуално съдържание. Дори се разработват платформи, базирани на ИИ, които профилират индивида и му предоставят специализирана информация според личностните интереси.

Тоест, идеята за някаква колективна медия вероятно ще отпада или ще се свива и просто ще настройваме нашата платформа към това какво ни интересува. Така може да получаваме диаметрално противоположна информация в сравнение с това, което вълнува нашият съсед, макар че пребиваваме в една и съща физическа реалност.

снимки: Добрин Кашавелов

Това според мен ще засилва феномена на „ехо стаите“, който така или иначе е продуциран от алгоритмите. Има идея да се създаде интернет, който е свободен от това, да се изключат алгоритмите и вероятно ще се стигне дотам, макар че би било в колизия с идеята за цензура.

Да, то ще е вид цензура, но цензура на цензурата.

Метавселената, която очаквам да избухне в следващите 5 години, да виртуализира и създаде смесена реалност, също ще изкриви нещата допълнително.

Днес нямаме твърдини, за които да се захванем. Тази дезориентация ще стане опасна, тя ще доведе до социални сблъсъци. Още повече – виждаме, че няма значение какви са действията, а думите и посланията са тези, които имат много силен ефект. Те се консумират и малка част от социалните групи търси реализацията на думи в действия.

Да, в крайна сметка мисля, че ще се наложи нещо различно, защото ще бъде невъзможно да се живее и управлява в такъв крайно дезориентиран свят. Въпросът е, че трябва да има и потребители…

– Ще се радвам, ако именно такива хора днес четат „Дигитални истории“. Благодаря ви!