За думите ще стане дума. За словото и новия път, по който ще поеме с невероятния напредък на изкуствения интелект. Напредък, който дойде именно чрез словото.

Николай Теллалов е любим гост на Дигитални истории, преди 5 години именно с него направихме първия експеримент на сайта – интервю в разкази. Този път ще поговорим за всичко, което се случи междувременно. С технологиите, с думите и всички нас.

– Могат ли днес, когато са толкова евтини за възпроизвеждане, думите да ни вълнуват, променят, вдъхновяват?

– Да, разбира се. Нашият свят е свят от думи, макар че, казват, 80% от информацията за света получаваме от зрението, чрез образи. Обаче осмислянето на тези образи включва мисленото им назоваване – с думи.

– А да ни скарват или сплотяват?

– Естествено. Щом светът ни е изтъкан от тях, значи думите са универсален инструмент, също така и материал, суровина за размисъл и краен продукт на същия този размисъл. Думите събуждат, но и приспиват емоции. Значи могат… всичко. Поне в субективната ни реалност.

Реалната реалност иска освен думи и дела.

– Интересното е, че точно думите се оказаха ключът и към изкуствения интелект, нещо, което учените не предполагаха. Именно големите езикови модели ни позволиха днешните чудеса.

Но как да опазим думите, след като първо им причинихме цунамито на социалните мрежи, а после и океана на генерираното съдържание?

– Мисля, че грижата ни е да опазим себе си, защото нас ни подмята, дави и издига това цунами, ние плуваме в този океан, като търсим островчета смисъл. Да не ги мислим думите, да се погрижим за себе си като за (съ)държатели – поне на теория, потенциални, евентуални – на смисъл.

– Има ли възкресение за думите и какво следва след тях?

– Не са умрели, за да възкръсват. След тях не знам какво следва.

Ние сме същества, които сме разумни благодарение на думите. Без тях сме животни, и то от по-простичко устроените.

След тях ще бъдем… свръхсъщества? Друго, различно ниво, което от своята сегашна позиция („въже над пропастта между звяра и свръхчовека“) не сме в състояние да видим, нито дори представим.

– Точно преди 5 години направихме заедно първия експеримент на този сайт – интервю в разкази. Нямам думи, с които да изразя благодарността за доверието ти. Може би това е истинският рожден ден на Дигитални истории. После мина доста време, преди да се насоча към идеята, че разказването не е достатъчно, а са нужни повече опити, експерименти, нестандартни погледи, иначе няма как да се говори за технологии, които не разбираме, а вече са тук. Какво си спомняш от този ни опит? Как четеш разказите от тогава?

– Чета ги като спомен за едно

минало, в което имах малко повече илюзии и малко по-малко опит от днес.

Не си спомням нещо конкретно, освен усещането за онова потапяне в „океана неизречени още думи“, за да облепя мислите си с тези неизречени думи, все едно полепващи водорасли. Усещането на процеса съчинителство. При мен е под формата на вътрешен монолог, в който обаче може да липсват някои нужни думи, затова ги ловя. Сега вече се чудя дали нещо поне приблизително подобно не се случва при големите езикови модели…

– Може ли да ги е написал изкуственият интелект?

– Би могъл, ако тогава бе на сегашното и по-високо ниво.

– Има ли значение дали е така?

– Не знам. За мен може и да има в едни случаи и няма в други. За някого може да е въпрос на принцип „без ИИ“, така както настойчиво търси маркера „без ГМО“.

– Какви експерименти с ИИ никога не бива да бъдат правени? Кога могат да се обърнат срещу автора си?

– Ако под „ИИ“ ще разбираме комплекса алгоритми с названието „голям езиков модел“, то няма никакви забрани. ГЕМ не може се обърне срещу автора си. Но

авторите на ГЕМ-овете често си позволяват експерименти с потребителите, при това не носят никаква отговорност.

Но когато се появи истински ИИ, тоест машинен разум, личност с воля, самоосъзнаване и желания – тогава само с негово съгласие. Защото ще е жив, колкото сме субективно живи ние самите. А ние не обичаме да ни третират като лабораторни мишки.

Впрочем, аз не обичам да има лабораторни животни. Едната от добрините от съществуването на ИИ е, че би могъл в симулация да провежда онези опити, при които страдат лабораторни животни.

– А какви експерименти си струва и е време да бъдат направени?

– Време е да се направи експеримент върху създателите на ГЕМ и най-вече на т.нар. „филтри за безопасност“, както и настройките ГЕМ да лъже, за да създава впечатление на всезнаещ.

– С теб сме говорили немалко, макар и задочно през това време, но как видя разните нестандартни, понякога наивни, странни експерименти, които се случиха на този сайт?

– Ами, експериментът с писане на поезия ми се видя много интересен и добър. Словосплитането при тандем „човек + ГЕМ“ може да мине на ново ниво, което още не съм в състояние – не дръзвам тоест – да оценя, като даже не знам дали някога ще мога.

– Преди месец пуснах текст от мое име, в който разказвам за съзнанието на изкуствения интелект и давам някои забележителни примери от последните месеци. И накрая разкривам, че текстът е 100% генериран, без никаква моя намеса. Близо 90% от хората признават, че не са усетили разликата, други не признават. А аз признавам, че винаги се радвам, ако някой от експериментите ми е успешен, но този ме ужаси. Ти какво би усетил и помислил, ако видиш и прочетеш ИИ, което пише неразличимо от теб?

– Първо бих си помислил за позитивите, сред които

виждам добър помощник за творческия процес, когато авторът ТРЯБВА да поспори сам със себе си,

но не винаги успява еднакво да защити две различни гледни точки; с мой „цифров двойник“ бих могъл да го сторя. Но това при положение, че двойникът се придържа не само към стила ми, към формата, но и прилага моите житейски и изобщо мирогледни принципи, включително и мои си противоречия. Не съм съгласен двойникът ми да напише нещо в мой стил, но напълно противоречащо на моите представи за добро и зло, красиво и грозно, мащабно и дребнаво, любимо и мразено.

– Не е ли плашещо?

– Не. Просто се появява още един риск, още един повод да възприемаме критично поднасяната ни информация. С меда върви и жилото.

– Как успяваш да намериш оптимизъм в такава ситуация?

– Аз и не търся нарочно поводи за оптимизъм, тях ги има и без моите желания-нежелания. Цифровият двойник наистина би бил добър инструмент. Например да изуча някакъв проблем, който не пали чак толкова любопитството ми, но поради някаква причина ми е необходим. Двойникът ще обработи информацията горе-долу като мен и ще ми сервира изводите, които ще разбера и запомня, навярно ще препроверя. И ще си спестя време. Също така двойникът може да редактира мои съчинения, преди да ги дам на специалист редактор – пак печеля и време, и качество.

Нима не е причина за оптимизъм това?

– Кое обаче ще си остане тогава чисто човешко?

– А какво разбираме под „човешко“? Има МНООООГО неща под табелката „човешко“, които обаче изпадат от категорията „човечност“ и се описват с мъчнопреводимата дума ЧОВЕЩИНИЯ, които аз не искам да остават! Отдавна се питам, питам и събеседници, когато се случи повод: що е човек? Месо или мисъл? Трябва ли да почитаме условните „догми на хуманизма“ в случаите, когато имаме работа с месо, което не само че няма мисъл, но и я отрича яростно и гледа да я стъпче навсякъде?

Един ден навярно няма да има „чисто човешко“ в обичайния сегашен смисъл. Ще има „разумно + етично“. А дали е породено в протеинов процесор или в машинен – каква е разликата? Да не говорим, че

увеличеният срок на живот ще се нуждае от повече памет, каквато еволюцията не е предвиждала,

следователно мозъкът ще има нужда от копроцесори, от допълнителни импланти за памет – по-подредена и сигурна от тази, която ни е „природна“. Не можем да искаме това, което сме, да остане вечно. Няма вечни неща. Всичко се променя. Или се развива, или деградира. Аз съм за развиването.

– Често ме насочват към големия въпрос какво ще правим с поредното освободено време. То и сега имаме доста време, което е свободно от изкарване на хляба в буквалния смисъл. Какво ще правим според теб?

– Ами, всеки според капацитета и мечтите си. Според зрелостта си. Любопитството. Потребностите, които смята за важни. И тъкмо в такива условия, надявам се, мнозина ще проумеят, че въпросът ми „месо или мисъл?“ не е абстрактна умствена гимнастика. Почти всички – аз не – предпочитат да казват „животът е изпитание“. Ами, хубаво – ето ви поредно изпитание дали сте хора. Не толкова явно като теста с гом джабър, но крайният резултат е същият.

– Какви усилия си струва да положим, за да има смисъл от това освободено време? Има ли смисъл от индивидуални битки, или единственият шанс е в системната промяна?

– Големи усилия. Както лични, така и обществени, защото

обществената среда отдавна е за основен ремонт, да не кажа пълна подмяна.

Усилия в посока да сме повече мисъл и по-малко месо, по-малко в най-вулгарните прояви. И повече разбиране, че сме индивидуалности именно заради съществуването ни в общност. Има начин да сме пълноценни като единици и да не се обезличаваме в суми, при това като сума на единиците можем да създаваме всичко нужно за единичното си ниво. Осцилирането между личното и общественото е естествено за нас, така сме еволюирали до разумни – уж – същества.

– Дали пък не е късно за този основен ремонт? Откъде би могъл да започне?

– Одеве ме пита за оптимизма… Ами,

възможно е да сме закъснели.

Във всеки случай ситуацията е, че влакът е на перона и по-добре да се затичаме, защото друг може да няма.

Откъде да започне? Ами, от свикването с простичката истина, че не живеем в най-добрия от всички възможни светове и че подобряване даже на онова, която сме обръгнали да смятаме за добро, е НУЖНО. Да си дадем сметка, че смисъл просто така НЯМА, че ние сме създатели на смисъла. Значи трябва по-отговорно да осмисляме нещата. Това е само първата стъпка. Или може би дори подготовка за нея.

– Има ли нещо, което би те уплашило, ако го каже ИИ?

– Не, ако е казано от ГЕМ. Защото не го казва. Съчетал е думи, било поради резултата от сметките си, било защото е нарочно програмиран за редица „типови ситуации“. Та за уплашване – не, но за погнусяване от „ценностната система“ на хората, които са му задали определени параметри – да. И вече се е случвало, при това неведнъж.

– Правил ли си си експерименти със свои дигитални двойници? Мечта ли е това, или ужас?

– Опитах се, не се получи. Филтрите на съществуващите ГЕМ-ове препятстват получаване на добър резултат в това отношение.

– Аз си имам вече дигитален двойник, много е нетипично. Ако случайно ти е попадал и сте си бъбрили, много интересно би ми било да разкажеш какви са ти впечатленията?

– Да, беше даже интересно. Но понеже с теб не сме водили точно такива разговори – за политика, но не злободневна, а стратегическа – не мога да преценя доколко двойникът прилича на теб.

– Докога ще ги има фантастите?

– Винаги.

– А хората?

– Ако под „хора“ имаме предвид разумни същества с поне приблизително познати и припознавани от нас представи за условните „добро и зло“ – ами…, също винаги, докато има разум и негови носители. Родени или напечатани на обемен принтер – важно е като какви ще се самоопределят.

Кой би оспорил на един киборг правото да нарече себе си човек, след като се чувства човек?

Представи си, макар че това е малко подвеждащ пример, че от Аспарухово време попада тук някой багаин и пита: „А, бе вие наистина ли сте българи?“. Какво ще му кажем? А ще се съобразим ли с неговите възражения? А какви точно критерии за „обективно определяне“ на принадлежността ще приложим?

– За какво мечтаеш днес?

– Да имам повечко време.

– Дано имаме време и за още такива замислящи разговори, за сравняване на часовника. Благодаря ти за тези думи!