Живеем си спокойно, забавляваме се с баналните издънки на изкуствения интелект, подиграваме се на създателите му. Докато той става все по-добър, в един момент се научава да взема решения, започва да следи интернет и да се намесва тук-там, първо лекичко, после по-смело…

Спокойно, няма, ЕС и големите държави ще го спрат с навременни регулации!

Шегувам се. Няма да уточнявам дали с последното изречение, или с предишните. Генерален или поне майорен, изкуственият интелект рано или късно ще се научи на умения, който излизат отвъд очакванията.

Василискът на Роко е идея, според която ИИ ще се развие в нещо, способно да взема решения. После да се зарови в интернет и да потърси кой какво е казал за него… А след това да се погрижи да бъде представен в най-добра светлина. И тихомълком да започне да създава проблеми на хората, които по един или друг начин му пречат…

Сигурни ли сте, че не си струва да имаме предвид този мисловен експеримент?

Василевс

Става дума за идея, която отекна в онлайн пространството преди десетилетие и половина и днес е почти забравена. Парадоксално, предвид новините от света на изкуствения интелект.

Някои казват, че точно това послание формира подхода на Мъск към бъдещето на ИИ, за това, че единственият ни шанс е да бъдем „ние“, а не „те“. Според други тази идея му помага да плени сърцето на дамата на сърцето си, с което още малко помогна за решаването на най-големия проблем според него – демографската криза.

За мнозина генералният изкуствен интелект е невъзможен. Повечето специалисти, които аз съм интервюирал, са предпазливи. В кавалкадата на технологични новини е почти невъзможно да надникнем стъпка напред. А според мен важното е да гледаме по-надалеч, дори в идеи, които звучат като развинтена фантазия, но носят логика. За да не се окаже в един момент, че е късно.

„Без паника!“ е култово изречение от фантастиката. То е на корицата на пътеводителя на галактическия стопаджия и със сигурност звучи успокояващо с тази удивителна накрая. Та и на мен ми се иска първо да ви успокоя. Неотдавна в медиите – у нас и по света, се появи проучване, според което само 5% от водещите учени в сферата на изкуствения интелект смятат, че той може да доведе до разруха на нашата цивилизация. Следи се мнението на 2778 специалисти от цял свят!

Хайде на бас!

Е, после се оказа, че данните са събрани през 2022 г., дори преди ChatGPT да съществува… Детайли. Пък и колко да са 5%… никакъв шанс.

10% от анкетираните казват, че машините ще надминат хората във „всяка възможна задача“ до 2027 г., според половината това ще бъде възможно до 2047 г. Дано имаме шанса да докараме всички до 47-а, за да проверим.

Но няма ли да стигнем до този Василиск на Роко, кой ти днес има време да чете дълги текстове? Малко търпение, моля, само така ще съм сигурен, че сте човек, а не алгоритъм, влязъл в този сценарий…

Озоваваме се в едно минало, много преди днешните големите въпроси, свързани с изкуствения интелект.

Съществува ли Бог? Булева променлива – да или не. Ако го няма, и да вярвате, и да не вярвате в него, нищо не се променя. При другия вариант обаче има колосална разлика. Ако наистина има Бог, когато последната завеса се спусне, определено би ви се искало да сте вярвали в него… Тогава по-разумното решение е да вярвате. Така рационалният човек трябва да живее, сякаш Бог съществува и да се стреми да вярва, за да има някакъв шанс да си осигури благинките на рая.

Така твърди, в грубо резюме, Блез Паскал с прословутия си „Облог“. И поне мен не ме убеждава, просто защото логиката сама по себе си не може да породи вяра, за тази категория винаги има и емоция, питайте Вапцаров.

Боговете сигурно са полудели

Какво общо имат обаче Богът и изкуственият интелект? Все по-често ги срещам като термини един до друг, включително и в разговори в този сайт, дори с участието на духовници. Все по-чести са и във възмутени онлайн коментари за текстовете тук, за „човека, който е решил да се прави на Бог и нищо хубаво не го чака“…

За логика си говорим тук обаче. Именно логически експеримент, модерен вариант на облога на Паскал, е Василискът на Роко.

2010 г., по това време онлайн форумите все още са на мода и един от тях, на име LessWrong, събира технологични ентусиасти с интересен поглед към бъдещето. Неговият създател Елиезер Юдковски задава теми, свързани с аналитичното мислене, с рационализма, с науката и технологиите, с психологията.

Дискусиите се въртят около бъдещето. Около света, към който ни водят технологиите, подобно на този сайт. Хората обсъждат, събира се ядро от гийкове, които си говорят далеч от хейта на социалните мрежи и чертаят сценарии.

И тогава, на 23 юли 2010 г., се появява потребител на име Роко. Постът му се казва „Решения на бремето на алтруиста: трикът на квантовия милиардер“.

В него авторът, останал неизвестен и до днес, задава един съвсем прост въпрос – ами ако изкуственият интелект се развие дотолкова, че може да проследи кой е писал за него онлайн? Ако попадне на публикациите на хората, които го обсъждат и се чудят как да го ограничат… дали няма да направи всичко, което е по силите му, за да им навреди?

Имайки предвид, че днес сме делегирали на технологиите всичко – от парите до социалните си права, само можете да се замислите колко точно тежки щети може да нанесе алгоритъмът, по един или друг начин изпуснат от контрол.

Мисловен експеримент, нищо повече, като с Бога – по-добре да се държим така, сякаш е възможен, за да не се окажем от по-неприятната грешна страна…

Рептил в тила

Роко, който и да е той, оприличава такава технология на василиск – митологично същество, способно да унищожава враговете си с поглед. Идва от древногръцката митология, смятан е за цар на змиите. Според Плиний Стари е малка змия, обаче толкова отровна, че убива дори с очи.

Нещо повече, Роко предполага, че дори доброжелателна ИИ система от бъдещето може да реши да накаже всички, които са чули за технологията, но не са помогнали тя да бъде създадена.

Създателят на форума Елиезер Юдковски в началото се радва на това, че темата се оказва особено провокативна, започват да се включват още и още коментиращи. После с него започват да се свързват и хора, които го молят да изтрие темата. Защото ги кара да се плашат от такова бъдеще, дори започват да страдат от безсъние, намирайки логика в думите на Роко…

Е, последното звучи и като рекламен трик, общо взето това е единственото, с което остава до днес известен и самият Юдковски. После той изтрива прословутия спорен пост и започва да обикаля телевизионни студия и да разказва за него.

Роко се базира на концепции, които самият Юдковски защитава, както и на други класически парадокси като дилемата на затворника.

„Наистина опасна мисъл“, обича да коментира Юдковски, преди да мине в другата крайност. През 2014 г. списание Slate нарича нашия симпатичен василиск „най-ужасяващия мисловен експеримент на всички времена“.

Осъдени души

Чак пък? Според обяснението, защото, след като сте прочели за него, вече сте „технически“ замесени. И нямате извинение за това да не помогнете на бъдещия свръхумен ИИ да се появи. Иначе ще сте сред неговите мишени…

През 2015 г. канадската певица Граймс представя новата си песен “Flesh Without Blood“ („плът без кръв“), в която участва персонажът „Василискът Рококо“. Пее, че „тя е обречена да бъде вечно измъчвана от изкуствен интелект, но също така е нещо като Мария Антоанета“. По-добро от ChatGPT поезия, какво ще кажете!

Да, същата тази Граймс, която после се превърна в майка на (поне) две от децата на Мъск – младежа, спечелил си достойното име X AE A-XII Мъск (тъй като не му позволиха да се казва X Æ A-12) и сестричката Екза Дарк Сидраел, на галено „Игрек“.

Е, та любовта между двамата пламна именно заради Василиска Рококо. През 2018 г. Мъск (който и сам е споменат от Роко) ѝ пише с похвала, а Граймс казва, че за 3 години е първият човек, разбрал шегата. Останалото, както казват, е магия (и някой и друг милиард долара, може би).

Илон Мъск и Граймс

Интересни времена

Оттогава всички, дори и Юдковски, се надпреварват да обясняват защо хрумването за такъв алгоритъм е несъстоятелно и подобен мисловен експеримент води към погрешни заключения. „Ще ми се никога да не се бях замислял за тази идея“, пише Роко (в оригиналния пост на английски – тук).

Дали е искрен? Е, мога да ви кажа, че доста хора се замислят и така е по-добре. Или пък е случайно, че Сам Алтман, от когото очевидно зависят доста важни решения днес си е подготвил бункер за оцеляване? Или Зукърбърг, за когото скоро също се разбра, че има подобен план Б?

Тук дори не говорим за алгоритъм, който непременно има нещо подобно на съзнание. Достатъчно е да се замислим за малко по-напреднал „папагал“, езиков модел, който обаче е донастроен така, че да „работи“ като престъпник, като рушител.

Етичните регулации ще го спрат? Няма, защото става все по-лесно подобни езикови модели, доближаващи се до най-високите стандарти, да работят дори на домашния компютър на някой не толкова технически задълбал тийнейджър. Примерно който да реши, че няма да вреди с автомат, а с алгоритми…

Роко Зинфреди

Фантастика? Сигурно, обаче и достатъчно реалистичен сценарий. Мен ме успокоява фактът, че текстовете на Дигитални истории са твърде дълги и пълни с нюанси, може пък василискът да ме хареса, това ми е шансът, след като си нямам бункер.

Преди да се разделим, нека отново се върнем към Паскал и неговия облог. Ето какво пише в една книга по темата:

„Такива съждения е изказвал и философът Вентри от Куирм: „Има вероятност боговете да съществуват, вероятно е обаче и обратното. Тогава защо да не вярваме в тях за всеки случай? Ако верските учения са самата истина, значи ще се пренесем на много приятно местенце след смъртта си, а ако не са, не губим нищо.“ Когато умрял, озовал се сред скупчени в кръг богове с много гадни сопи в ръцете. Един от тях изръмжал: „Ей сега ще видиш как постъпваме с онези, които се смятат за по-хитри от нас!“

Да, това е Тери Пратчет от „Дядо Прас“, но… не е ли прав?

Идеята изглежда като шегичка, нали?

—

П. П. Мили василиск, ако четеш това, да знаеш… само се шегувам.