Защо сме толкова неподготвени за големите промени, които ни носят технологиите? Можем ли да наваксаме? Какви са най-важните новини, които да очакваме от новата 2024-а? Защо революцията във всяка област на живота ни е необратима и дори по-близка от очакваното, при това със силата на научните аргументи?

Защо е важно час по-скоро да се оттърсим от злободневното и, изправени пред огромни предизвикателства, да се обединим?

Доц. Мариана Тодорова е футуролог, работи в Института по философия и социология към БАН.

Доктор по философия, има специализации в Харвард, в международната програма за лидерство на Държавния департамент на САЩ и Китайската академия за управление, била е и народен представител. Автор на книгата „Изкуствен интелект. Кратка история на развитието и етични аспекти по темата“. Представител на България в междуправителствената среща за изработване на етична рамка за изкуствен интелект под егидата на ЮНЕСКО.

„Само в рамките на 5 години технологиите, базирани на изкуствения интелект, ще навлязат във всяка област. Те ще са край нас от раждането до смъртта ни“, каза тя в разговора ни през 2022 г. А в първите дни на 2024-а е дори по-категорична:

„Сега е 100% сигурно. Мисля, че остават 2-3 години и това зависи от степента на готовност, която имаме, а не от възможностите на самите технологии. Ако се сетите за някоя област, която няма да бъде силно засегната от изкуствения интелект, ме провокирайте, за да ви опровергая…“

Как да се подготвим за това бъдеще?

– Скоро се върнахте от световния форум на футуролозите в Дубай. Кои са нещата, които най-силно ви впечатлиха?

– Едното беше срещата с космонавтите от Експедиция 69, която се завърна на 23 септември от Международната космическа станция – двама руснаци, четирима американци и първия космонавт от Обединените арабски емирства.

Очакванията ми бяха, че ще говорят за научни експерименти – оперирали са кръвоносен съд, правили са опити дали в орбита могат да се извършат хирургически операции на сърце, на менискус, което е важно за проектите за колонизация на Марс и Луната. Но нещата, които те споделиха, бяха много човешки – за психологическата граница на отдалечеността от Земята. Това, че се превръща в малка, красива синя точка ги кара да преосмислят много неща. Преди да видят атмосферата като нещо много фино и изящно, не са си давали сметка, че тя, която пази живота ни от слънчевата радиация, е толкова крехка.

Другото ключовото послание беше колко са зависими един от друг. Искаха да покажат, че когато човечеството е изправено пред много важен глобален въпрос, касаещ всички – в случая успеха на тази космическа мисия, нямат никакво значение геополитическите, стратегическите истории. И руснаците, и американците казаха:

ние искаме да дадем формулата за разбирателство на човечеството, модела за успех, за сътрудничество,

там сме взаимозависими и наистина сме като братя.

снимки: Добрин Кашавелов

– Уви, няма как всички да отидем дотам, за да се убедим, а и технологиите ни помагат все повече да го забравяме..

– Другата интересна среща беше с един известен технологичен абсолютист, оптимист, инфлуенсър – Whurlеy. Той ни раздаде книжки, които изцяло бяха направени от изкуствен интелект, с много красиви илюстрации и текст. Зададе поредица от въпроси от типа защо съществува световният глад, докато 1/3 от храната се изхвърля? Защо не можем да се справим с климатичните промени и екологичните замърсявания? Защо се връщат заболявания, които са изчезнали?

Очакваше ние да дадем отговора, подреди презентацията си по такава логика, да ни покаже, че слонът е в стаята, а ние не го виждаме. Отговорът беше, че сме около 8 милиарда и от тях само 0,1% са учени – хора, които се занимават с наука. Докато усложняваме живота си с технологичната революция, имаме изключително сложни проблеми, който непрекъснато се възпроизвеждат.

Неговата теза беше, че единственият начин ускорено да решим този дефицит, е като използваме изкуствен интелект, колкото по-усъвършенстван – толкова по-добре. Накрая издаде тайната, че брошурата е създадена от неговия 6-годишен син за 30 минути. Каза, че

децата вече имат много добра интуиция, за да работят с тези технологии.

Те не са предубедени, нямат очаквания за сложност и невъзможност, а използват само въображението, творчеството, креативността си и боравят много добре.

Наскоро ми попадна една статия, че Америка едва сега насрочи дата за кацане на Луната, защото се оказа, че част от изчисленията, от технологията, са изгубени, от времената, когато математиците са изчислявали всичко на ръка.

– Прословута е снимката на Маргарет Хамилтън, която води екипа програмисти, до целия код, който са написали и купчината хартия е висока колкото нея!

– Именно! Една от хипотезите е, че НАСА не успява да изпрати нова мисия не само защото е скъпо, а защото част от технологията е изгубена и не могат да я възстановят. Аз го попитах в този контекст. Използваме изкуствен интелект, той става все по-съвършен, вече е граничен между тесен и генерален, големите езикови модели създават съвършени резултати, ако имат точно задание.

Със сигурност ще има бум на научни открития, аз го виждам в намирането на нови галактики, в засичането на ракови заболявания, ИИ обработва големи данни, изчислява невероятни неща.

Имаме огромни възможности, но може да попаднем в капана на лесния път.

Както е било изгубено знанието за „Аполо“. Ако заради ChatGPT и другите модели самите програмисти спрат да разработват математически код и това знание се изгуби след едно-две поколения, какво се случва? Ако се вкараме в този капан, просто да инструментализираме всичко и да заменим математиката с една символна игра?

Whurley не пожела да ми отговори.

Този тип хора, с тази нагласа, са много полезни. Искат да стигнат докрай и имат своето място. Но наистина има такава заплаха – като във филмите, в които едно слънчево изригване унищожава електричеството, интернет, а хората вече нямат аналоговото мислене и усещане откъде да тръгнат, как да възстановят това знание.

Хората на бъдещето, които са изцяло дигитално зависими, може би ще трябва да откриват по някакъв примитивен начин всичко наново. Трябва да има план Б и някакви пазители на аналоговото. Просто след време може да ни се наложи да тръгнем по дългия път.

снимки: Добрин Кашавелов

– Да, обаче кои могат да са пазителите? С изкуствения интелект търсим регулации, но държавите са по-слаби от OpenAI, от Meta. Дори обединенията са слаби, ако Европейският съюз наложи по-строги ограничения, всички ще отидат в Китай. Единствената форма, която аз си представям, на някаква съпротива, на възможност за регулация, е натиск от обществото.

– Да, обществото би могло да бъда добър коректив, както е било в други глобални теми, като ядреното оръжие. Смятам, че

за изкуствения интелект трябва да се постигне някакъв глобален консенсус и регулация, така, както е с ядреното оръжие.

Дори, пак както при него, да се ползва за взаимно сдържане, е по-добре, отколкото ако няма такъв консенсус. Иначе, на принципа на данъчните убежища и офшорните зони, компаниите могат да отидат в Китай например. Наскоро една малка компания, в партньорство с NVidia, купи шлеп и го оборудва с 10 000 мощни процесора, за да създават изкуствен интелект в международни води, без да ги касае регулация. Бяха казали, че ще пледират да бъдат първата ИИ нация! Но според мен това по-скоро ще преосмисли морското право, колкото и да е най-старо то, отколкото ще наложи нови принципи.

Ако човечеството не достигне до този консенсус, ще преживеем голям хаос. То вече създава различни юрисдикции – ЕС забрани лицевото разпознаване, с малки изключения, докато в Китай, Индия и Америка е напълно разрешено. Същото е с анализа на биометрични данни.

Мисля, че казусите, които ще възникват, ще наложат да се стигне дотам, но ще бъде много трудно. Самите компании не искат регулации, защото това ги спира, но от друга страна лидерите се страхуват, че биха могли при евентуален тежък инцидент да понесат отговорността. Затова Сам Алтман цяло лято пътуваше и се срещна с политически и икономически лидери. Една от хипотезите е, че той е уволнен заради Q* – мултимодален изкуствен интелект от ново поколение, който е заобиколил някакви мерки за управление, за сигурност, за възпиране.

– Така ни се налага да гадаем и да разчитаме на слухове за нещо, което може да предопределя бъдещето ни. Докато Алтман е известен с това, че си има голям бункер, оборудван с всичко възможно, за да оцелее след катаклизъм. Но защо стигнахме до система, в която от Мъск, от Безос, от Алтман зависи какво ще се случи? Уж сме напреднала цивилизация, а се връщаме към феодално общество – важните решения вземат личности, които се смятат за богоизбрани, а никой не им е делегирал такива отговорности.

– При всички има този тип месианство, и Мъск демонстрираше голяма загриженост, но го правеше с комерсиална и маркетингова цел, защото изостана в изкуствен интелект. Вероятно искаше да навакса, като поиска мораториум, едва ли целта е толкова благородна.

Тези хора са лицата на проектите, но зад тях стоят огромни екипи, мултинационални компании и акционери, които се интересуват от печалбата.

Не зависи само от тях, те въплъщават някакви очаквания, но цялата ситуация от много време, от ковид насам, отпреди GPT-3, доста напомня на филма „Не поглеждай нагоре“. Срещаме проблеми на различно равнище, от различно естество, които не можем да разрешим и стоим в ступор, като сърната пред фаровете на автомобила.

Наистина е странно защо не се стремим всячески да решим екологичните и климатичните проблеми.

Дори след най-тежкия катаклизъм Земята би имала много по-добри условия за живот от Марс или Луната.

Все още имаме много по-добри шансове тук, дори да създадем изкуствена атмосфера.

снимки: Добрин Кашавелов

Тревожно е също, че тези хора имат апокалиптично мислене и търсят спасителни варианти, което поражда много конспиративни теории. Хората започват да си мислят, че щом тези милиардери, лидери на мнение, задаващи трендове, избират такива мерки, вероятно нещо ще се случи. Но те също са ексцентрици, също са ограничени от ирационалността си. Аз не вярвам, че притежават някакво скрито знание.

Проблем е, че изчезна политическият човек, той е в някаква криза. Това касае дори възможността за диалог на обществото през политическия човек, като събирателно – политик, лидер, представител на партия. Това е следствие от кризата на идеологиите, нарушава диалога в обществото и възможността някой да го представлява.

Живеем в хибридни времена, функция на социалните медии, които удариха по класическите авторитети и на тяхно място поставиха инфлуенсъри, блогъри, експерти, а не учени.

Трябва да се работи в тази посока – реставрация, преизобретяване на демокрацията,

така че да има ясни субекти. Те да взимат ясни решения и да им се търси отговорност, защото технолидерите не са длъжни да го правят. Виждаме, че националните държави са безсилни. Затова трябва да има глобални механизми, институция, която да прилича на глобално правителство, само по някакви наистина съществени теми.

– ООН, само че работещо… И стигаме до момента, в който живеем в невероятно динамични времена, а в Америка избират президент между двама души на почти 90 години. Докато повечето големи държави са водени от хора над 70.

– Всичко стана много флуидно, защото живеем в състояние на непрекъсната промяна.

Тя е толкова постоянна и честа, че дори няма нужда да мислим за бъдещето, живеем с усещането, че бъдещето е сега,

че всичко става все по-бързо и по-бързо. Че бъдещето е много по-бедно на метафори и на смисъл, отколкото е било някога.

В такива турбулентни времена хората, вместо да се адаптират към бързата промяна, да бъдат като хамелеони, се втвърдяват и търсят консерватизъм, някаква твърдина. Затова избират несъстоятелни, възрастни лидери, защото в миналото старостта е била гаранция за мъдрост.

– Този консерватизъм го виждам и по коментарите на моите теми – че има план да ни избият и изкуственият интелект е поредната стъпка, докато според останалите в ИИ света нищо не се е случило и всичко по темата е маркетинг.

Според мен няма как да се случи това рестартиране на демократичния процес, на авторитетите, без някаква форма на медии. Именно те могат да дават валидация на качества, да са платформа за дискусия, нещо, което да овладее тази флуидност. Чакам да се появят нови медии, но все така ги няма.

– Вчера видях медия със съдържание, изцяло генерирано от изкуствен интелект. Говорители, които са анимационни образи, но вече имат и мимика, и чувство за хумор.

Изкуствен интелект генерира контекст за репортажите, той прави и профилиране на потребителите, излъчва новини според предпочитанията.

Наистина това е тенденцията, която Netflix започна, за прекалено персонализиране. За мен това е още по-опасно, защото допълнително фрагментира, размива усещането за общност. Това, което немският социолог Дюркем нарича „аномия“ – разпад на общностите. Затваряме се в микрообщности и това е проблем. Проблем е също как хората да се ресоциализират и да се научат да постигат консенсус. Засега новите медии работят за персонализация, индивидуализация. И платформите за сътрудничество също ги има, но те са доброволни, изискват инициатива. Това ще е много интересно – как да се справим с тази тенденция.

снимки: Добрин Кашавелов

– Вече мина една година, откакто при нас е ChatGPT, а дори в IT общността много хора казват, че това е скъп папагал, че е стигнал предела си. Че се задава зима за изкуствения интелект, защото всяко направление минава по този път. Може ли да се окаже, че те са прави? Че сме надценили това, което се случва?

– Никога не съм мислела така. Първо, ние още

не сме изпитали мултимодалните модели и не защото ги няма, а защото големите компании не знаят как да ги монетизират.

Те търсят печелившия, ефективен бизнесмодел, защото тези модели са много скъпи. ChatGPT дълго време носеше загуби на OpenAI и компанията нямаше да оцелее, ао не беше субсидията от 10 милиарда на Microsoft.

Платеният ChatGPT малко промени това, има около 200 милиона абоната, но все още не е ясно дали този модел е устойчив. Google предлагат нещо различно, те разделиха Gemini на три модела – „нано“, „про“ и „ултра“. „Нано“ е модел, който ще ползваме на телефона, ще персонализираме за наши данни. „Про“ ще е като GPT-4, а „ултра“ наистина ще има изключителни възможности. Така

човечеството още не е изпитало изцяло истинския ефект, който вече е постигнат технологично.

Вторият въпрос е в самите нас. Ние сме много консервативни и започваме да изграждаме адаптационни отговори. Някои го отричат, други му приписват човешки характеристики. Трети казват, че го опитомяват, но всъщност изкуственият интелект опитомява нас. Дори мои приятели вярват, че има съзнание, че ги разбира, че всеки ден си мени поведението, придават човешки атрибути. Но това, че ние общуваме с него като с животно или с друг човек, е процес на опознаване, на надценяване, или подценяване на ситуацията. Нямаме реална преценка!

И трето –

още не са излезли статистиките за това колко хора са останали без работа. Те ще излязат и тогава ще има отрезвяване,

защото не са малко. В Америка според мен 70-80% от копирайтърите вече не работят това, същото ще излезе за счетоводители, правни анализатори.

Когато тези 3 елемента се осъзнаят, ще има ново отношение. Факторите, които могат да доведат до зима на изкуствения интелект, отпадат един след друг. Което е страшно, защото на моменти ние, хората, приличаме на маймуни, които си играят с огън.

– И законът на Мур продължава да властва. Стигаме предела на една технология и някак се появява следващата, която ни позволява експоненциално да продължим нататък. Докато голямото разделение, по което и досега спорят споменатите технологични лидери, е дали спасението ни е да се отделим от технологиите, или да се слеем с тях.

– Това са двете доктрини: ако не можеш да ги победиш, се съюзи с тях. Или ги спри, преди да те унищожат. Да се слеем, за мен е много интересен феномен. Още не съм срещнала учен в невронауките, който да изгради сценарий как става тази комуникация. Ние комуникираме чрез някакво субект-обектно противопоставяне, чрез очите, най-естественото удължение на мозъка. Когато става директно, как ограничаваме мисълта и волята си? Как разбираме, че това е нещо, което е наше, автентично ли е, или не?

Способни ли сме всички да го направим? От друга страна, не бихме могли да го спрем, защото ще ни даде много решения. Може би

печелившата стратегия е да печелим време, с което да наваксаме нашите когнитивни способности и пропуски,

да се учим, да го разбираме и да решаваме отсечка за отсечка.

Засега за мен няма правилна стратегия. Но вече е дошъл момент за пауза. За да осмислят хората какво е станало, да видят ефектите върху пазара на труда. Това ще промени икономическите системи! Да видят собствено си място и да опознаят пълната функционалност.

Но, разбира се, това няма да бъде постигнато, просто защото няма здрав разум. Няма общо разбиране.

Както каза Джефри Хинтън: „Извънземните се приземиха в двора ми, обаче говореха толкова добър английски, че никой не разбра, че са извънземни.“

снимки: Добрин Кашавелов

– С вас си говорихме точно преди година и половина и казахте, че след 5 години изкуственият интелект в комбинация с роботиката ще промени всяка област на живота ни. Как изглеждат тази прогноза днес?

– Сега е 100% сигурно.

Мисля, че остават 2-3 години и това зависи от степента на готовност, която имаме, а не от възможностите на самите технологии. Ако се сетите за някоя област, която според вас няма да бъде силно засегната от изкуствения интелект, ме провокирайте, за да ви опровергая.

– Не бих могъл. Имам досег с две професии, а покрай тях и с безброй други, не се сещам за такава област. Вече ежедневно виждам как този напредък прави разликата и се чудя дали в момента е по-разумно да се учим как да ползваме сегашните технологии, или няма никакъв смисъл, защото те бързо се променят и е разумно по-скоро да развиваме гъвкавост.

– Трябва да се учим и на двете. Според мен няма смисъл прекалено много да задълбаваме, технологията е променлива. Трябва да сме гъвкави, но тук пак

падаме в този капан на кратките пътища, всичко по повърхността.

До момента, в който ползваме нещо, което не разбираме. За мен това е доста опасно.

Присъствах на една лекция за влиянието на изкуствения интелект в медицината. Много ме впечатли един гинеколог, който каза, че хората дори не разбират в цялост и комплексно ин витро процедурата – тя работи отдавна, но това е малко хазартно. Сякаш имаме опит, обаче…

– …обаче може да се окаже, че не познаваме достатъчно процеса. Както каза преди 10 години Антон Дончев – имаме един телефон в джоба си, но не знаем какво може да ни носи. Дали няма да ни убива бавно и неусетно. В известен смисъл се оказа точно така.

– Децата са много разумни. Напоследък ходя в училища и ми задават изключителни въпроси. Едно момиче ме попита: „Добре, ще постигнем предела на възможностите си за адаптация и просто ще се изключим. Какво идва тогава?“.

Менталното здраве вече е най-важната тема и повече не можем да се състезаваме, да се адаптираме.

Ние сме линейни, а технологията е експоненциална. Тогава какво правим? Как спираме тази технология?

– Влизаме в ТикТок и търсим допаминово бягство.

– Но това те прави негоден.

снимки: Добрин Кашавелов

– И какво от това? Системата вече няма такава нужда да си годен…

– Да, капитализмът има нужда от хора – работещи и консумиращи, затова и подсигурява здравни, образователни, социални системи. Сега няма нужда. Но

не можем просто да гледаме на хората като на биомаса, освен ако изкуственият интелект не реши така.

Още повече, че ние му отваряме вратичка за това, като вграждаме в невронните мрежи органоиди. Тук вече тръгваме към лошите сценарии.

– Тъкмо минаха празниците, дойде новата година, нека за финал погледнем хубавите. Кои новини бихте се радвали да чуете през следващата година?

– Откриване на някакво базисно лекарство за справяне с ракови заболявания, това може да го направи изкуственият интелект.

Има хипотеза, че

всички човешки езици имат общ корен – митът за Вавилон да се окаже истина.

Изкуственият интелект може да я докаже! Да ни даде по-добро разбиране за нашия произход като вид, или изобщо за произхода на живота на Земята. Тези много важни научни въпроси, около което сме си изградили вярвания, религии, идеологии и социални системи. Биха могли да ги разклатят, а и биха ни направили по-добри, по-хуманни…