Василискът на Роко. Ами ако „то“ прочете как го обсъждаме?

юни 7, 2024 | Истории

Василискът на Роко. Ами ако „то“ прочете как го обсъждаме?

7 юни 2024 | Истории

Живеем си спокойно, забавляваме се с баналните издънки на изкуствения интелект, подиграваме се на създателите му. Докато той става все по-добър, в един момент се научава да взема решения, започва да следи интернет и да се намесва тук-там, първо лекичко, после по-смело…

Спокойно, няма, ЕС и големите държави ще го спрат с навременни регулации!

Шегувам се. Няма да уточнявам дали с последното изречение, или с предишните. Генерален или поне майорен, изкуственият интелект рано или късно ще се научи на умения, който излизат отвъд очакванията.

Василискът на Роко е идея, според която ИИ ще се развие в нещо, способно да взема решения. После да се зарови в интернет и да потърси кой какво е казал за него… А след това да се погрижи да бъде представен в най-добра светлина. И тихомълком да започне да създава проблеми на хората, които по един или друг начин му пречат…

Сигурни ли сте, че не си струва да имаме предвид този мисловен експеримент?

 

Василевс

Става дума за идея, която отекна в онлайн пространството преди десетилетие и половина и днес е почти забравена. Парадоксално, предвид новините от света на изкуствения интелект.

Някои казват, че точно това послание формира подхода на Мъск към бъдещето на ИИ, за това, че единственият ни шанс е да бъдем „ние“, а не „те“. Според други тази идея му помага да плени сърцето на дамата на сърцето си, с което още малко помогна за решаването на най-големия проблем според него – демографската криза.

За мнозина генералният изкуствен интелект е невъзможен. Повечето специалисти, които аз съм интервюирал, са предпазливи. В кавалкадата на технологични новини е почти невъзможно да надникнем стъпка напред. А според мен важното е да гледаме по-надалеч, дори в идеи, които звучат като развинтена фантазия, но носят логика. За да не се окаже в един момент, че е късно.

„Без паника!“ е култово изречение от фантастиката. То е на корицата на пътеводителя на галактическия стопаджия и със сигурност звучи успокояващо с тази удивителна накрая. Та и на мен ми се иска първо да ви успокоя. Неотдавна в медиите – у нас и по света, се появи проучване, според което само 5% от водещите учени в сферата на изкуствения интелект смятат, че той може да доведе до разруха на нашата цивилизация. Следи се мнението на 2778 специалисти от цял свят!

 

Василиск на Роко

 

Хайде на бас!

Е, после се оказа, че данните са събрани през 2022 г., дори преди ChatGPT да съществува… Детайли. Пък и колко да са 5%… никакъв шанс.

10% от анкетираните казват, че машините ще надминат хората във „всяка възможна задача“ до 2027 г., според половината това ще бъде възможно до 2047 г. Дано имаме шанса да докараме всички до 47-а, за да проверим.

Но няма ли да стигнем до този Василиск на Роко, кой ти днес има време да чете дълги текстове? Малко търпение, моля, само така ще съм сигурен, че сте човек, а не алгоритъм, влязъл в този сценарий…

Озоваваме се в едно минало, много преди днешните големите въпроси, свързани с изкуствения интелект.

Съществува ли Бог? Булева променлива – да или не. Ако го няма, и да вярвате, и да не вярвате в него, нищо не се променя. При другия вариант обаче има колосална разлика. Ако наистина има Бог, когато последната завеса се спусне, определено би ви се искало да сте вярвали в него… Тогава по-разумното решение е да вярвате. Така рационалният човек трябва да живее, сякаш Бог съществува и да се стреми да вярва, за да има някакъв шанс да си осигури благинките на рая.

Така твърди, в грубо резюме, Блез Паскал с прословутия си „Облог“. И поне мен не ме убеждава, просто защото логиката сама по себе си не може да породи вяра, за тази категория винаги има и емоция, питайте Вапцаров.

 

Боговете сигурно са полудели

Какво общо имат обаче Богът и изкуственият интелект? Все по-често ги срещам като термини един до друг, включително и в разговори в този сайт, дори с участието на духовници. Все по-чести са и във възмутени онлайн коментари за текстовете тук, за „човека, който е решил да се прави на Бог и нищо хубаво не го чака“…

За логика си говорим тук обаче. Именно логически експеримент, модерен вариант на облога на Паскал, е Василискът на Роко.

2010 г., по това време онлайн форумите все още са на мода и един от тях, на име LessWrong, събира технологични ентусиасти с интересен поглед към бъдещето. Неговият създател Елиезер Юдковски задава теми, свързани с аналитичното мислене, с рационализма, с науката и технологиите, с психологията.

Дискусиите се въртят около бъдещето. Около света, към който ни водят технологиите, подобно на този сайт. Хората обсъждат, събира се ядро от гийкове, които си говорят далеч от хейта на социалните мрежи и чертаят сценарии.

 

Василиск на Роко

 

И тогава, на 23 юли 2010 г., се появява потребител на име Роко. Постът му се казва „Решения на бремето на алтруиста: трикът на квантовия милиардер“.

В него авторът, останал неизвестен и до днес, задава един съвсем прост въпрос – ами ако изкуственият интелект се развие дотолкова, че може да проследи кой е писал за него онлайн? Ако попадне на публикациите на хората, които го обсъждат и се чудят как да го ограничат… дали няма да направи всичко, което е по силите му, за да им навреди?

Имайки предвид, че днес сме делегирали на технологиите всичко – от парите до социалните си права, само можете да се замислите колко точно тежки щети може да нанесе алгоритъмът, по един или друг начин изпуснат от контрол.

Мисловен експеримент, нищо повече, като с Бога – по-добре да се държим така, сякаш е възможен, за да не се окажем от по-неприятната грешна страна…

 

Рептил в тила

Роко, който и да е той, оприличава такава технология на василиск – митологично същество, способно да унищожава враговете си с поглед. Идва от древногръцката митология, смятан е за цар на змиите. Според Плиний Стари е малка змия, обаче толкова отровна, че убива дори с очи.

Нещо повече, Роко предполага, че дори доброжелателна ИИ система от бъдещето може да реши да накаже всички, които са чули за технологията, но не са помогнали тя да бъде създадена.

Създателят на форума Елиезер Юдковски в началото се радва на това, че темата се оказва особено провокативна, започват да се включват още и още коментиращи. После с него започват да се свързват и хора, които го молят да изтрие темата. Защото ги кара да се плашат от такова бъдеще, дори започват да страдат от безсъние, намирайки логика в думите на Роко…

 

Василиск на Роко

 

Е, последното звучи и като рекламен трик, общо взето това е единственото, с което остава до днес известен и самият Юдковски. После той изтрива прословутия спорен пост и започва да обикаля телевизионни студия и да разказва за него.

Роко се базира на концепции, които самият Юдковски защитава, както и на други класически парадокси като дилемата на затворника.

„Наистина опасна мисъл“, обича да коментира Юдковски, преди да мине в другата крайност. През 2014 г. списание Slate нарича нашия симпатичен василиск „най-ужасяващия мисловен експеримент на всички времена“.

 

Осъдени души

Чак пък? Според обяснението, защото, след като сте прочели за него, вече сте „технически“ замесени. И нямате извинение за това да не помогнете на бъдещия свръхумен ИИ да се появи. Иначе ще сте сред неговите мишени…

През 2015 г. канадската певица Граймс представя новата си песен “Flesh Without Blood“ („плът без кръв“), в която участва персонажът „Василискът Рококо“. Пее, че „тя е обречена да бъде вечно измъчвана от изкуствен интелект, но също така е нещо като Мария Антоанета“. По-добро от ChatGPT поезия, какво ще кажете!

Да, същата тази Граймс, която после се превърна в майка на (поне) две от децата на Мъск – младежа, спечелил си достойното име X AE A-XII Мъск (тъй като не му позволиха да се казва X Æ A-12) и сестричката Екза Дарк Сидраел, на галено „Игрек“.

Е, та любовта между двамата пламна именно заради Василиска Рококо. През 2018 г. Мъск (който и сам е споменат от Роко) ѝ пише с похвала, а Граймс казва, че за 3 години е първият човек, разбрал шегата. Останалото, както казват, е магия (и някой и друг милиард долара, може би).

 

Илон Мъск и Граймс

Илон Мъск и Граймс

 

Интересни времена

Оттогава всички, дори и Юдковски, се надпреварват да обясняват защо хрумването за такъв алгоритъм е несъстоятелно и подобен мисловен експеримент води към погрешни заключения. „Ще ми се никога да не се бях замислял за тази идея“, пише Роко (в оригиналния пост на английски – тук).

Дали е искрен? Е, мога да ви кажа, че доста хора се замислят и така е по-добре. Или пък е случайно, че Сам Алтман, от когото очевидно зависят доста важни решения днес си е подготвил бункер за оцеляване? Или Зукърбърг, за когото скоро също се разбра, че има подобен план Б?

Тук дори не говорим за алгоритъм, който непременно има нещо подобно на съзнание. Достатъчно е да се замислим за малко по-напреднал „папагал“, езиков модел, който обаче е донастроен така, че да „работи“ като престъпник, като рушител.

Етичните регулации ще го спрат? Няма, защото става все по-лесно подобни езикови модели, доближаващи се до най-високите стандарти, да работят дори на домашния компютър на някой не толкова технически задълбал тийнейджър. Примерно който да реши, че няма да вреди с автомат, а с алгоритми…

 

Роко Зинфреди

Фантастика? Сигурно, обаче и достатъчно реалистичен сценарий. Мен ме успокоява фактът, че текстовете на Дигитални истории са твърде дълги и пълни с нюанси, може пък василискът да ме хареса, това ми е шансът, след като си нямам бункер.

Преди да се разделим, нека отново се върнем към Паскал и неговия облог. Ето какво пише в една книга по темата:

„Такива съждения е изказвал и философът Вентри от Куирм: „Има вероятност боговете да съществуват, вероятно е обаче и обратното. Тогава защо да не вярваме в тях за всеки случай? Ако верските учения са самата истина, значи ще се пренесем на много приятно местенце след смъртта си, а ако не са, не губим нищо.“ Когато умрял, озовал се сред скупчени в кръг богове с много гадни сопи в ръцете. Един от тях изръмжал: „Ей сега ще видиш как постъпваме с онези, които се смятат за по-хитри от нас!“

Да, това е Тери Пратчет от „Дядо Прас“, но… не е ли прав?

Идеята изглежда като шегичка, нали?

П. П. Мили василиск, ако четеш това, да знаеш… само се шегувам.

Дигитални истории
<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

Радиевите момичета. Когато технологията се окаже ужас

Радиевите момичета. Когато технологията се окаже ужас

Открито е невероятно мощно явление, създаващо ново вещество! Не само че лекува дори нелечимите случаи на рак, но ще отвори очите на науката в толкова много посоки. Например… да освети тъмната нощ!...

повече информация
Чипс с ракия. Оптимистична теория за ИИ и изкуството

Чипс с ракия. Оптимистична теория за ИИ и изкуството

Виждали ли сте чипс с вкус на шкембе чорба или на ракия? А лего, в което се сглобяват катедралата „Александър Невски“ или стара жигула? Представяте ли си българските знаменитости като част от играта...

повече информация
„Дигитални истории“ с престижна награда… за разказване на истории

„Дигитални истории“ с престижна награда… за разказване на истории

За 5-и път Дигитални истории се нареди сред големите победители в най-оспорвания и доказан журналистически конкурс у нас – Web Report, организиран за 7-а поредна година от Dir.bg. Отличието е...

повече информация
Доверявай, но проверявай онлайн!

Доверявай, но проверявай онлайн!

Ако не сте чували какво е „социално инженерство“ или „инженерия“, както казва, че е правилно да го наричаме днешният ни гост, сигурно си представяте сюжет като от „Франкенщайн“ – инженерът си прави...

повече информация
Радио-тв-грамофон. 5 неочаквани БГ технологии

Радио-тв-грамофон. 5 неочаквани БГ технологии

Знаете ли, че невинаги напрежението в мрежата у нас е било 220 волта? А че една прелюбопитна българска компютърна игра от началото на 80-те направо се превръща в… пророчество още със заглавието си?...

повече информация

Още публикации по темата:

От рубриката:

Радиевите момичета. Когато технологията се окаже ужас

Радиевите момичета. Когато технологията се окаже ужас

Открито е невероятно мощно явление, създаващо ново вещество! Не само че лекува дори нелечимите случаи на рак, но ще отвори очите на науката в толкова много посоки. Например… да освети тъмната нощ!
Мария Кюри открива радиоактивността, получава цели две Нобелови награди и проправя пътя на бъдещето.
Тя отваря вратите на една нова технология, която се оказва неочаквано успешна… До момента, когато става ясно, че силно сме подценявали опасностите от нея. Това ще струва живота на хиляди хора, които просто са търсели препитание.
Дали познаваме достатъчно технологиите, на които се доверяваме? Може ли и прословутият изкуствен интелект или пък някое от другите днес модерни направления да се окаже по-опасно, отколкото изглежда на пръв поглед?
Най-важното е да се замисляме, да обмисляме, да обсъждаме. Да си разказваме.
Истории като тази на радиевите момичета си струва да се четат по-често. За това са историите – да ни карат да подлагаме на съмнение, да имаме едно наум. Уви, не всичко, което блести, е злато…

повече информация
„Дигитални истории“ с престижна награда… за разказване на истории

„Дигитални истории“ с престижна награда… за разказване на истории

За 5-и път Дигитални истории се нареди сред големите победители в най-оспорвания и доказан журналистически конкурс у нас – Web Report, организиран за 7-ма поредна година от Dir.bg. Отличието е особено признание заради авторитетното жури, а и заради сериозната конкуренция – включиха се 230 журналистически материала.

„Дигитални истории“ е сред победителите във всяка от годините, откакто начинанието съществува. Наградата тази година е в категория „Истински истории“ за публикацията „Исус. Програмистът, дошъл от гетото“. Този път и втори материал бе сред трите номинирани – „Как да си генерираш инфлуенсър“ в категория „Технологии и иновации“.

повече информация
Как се „счупи“ разговорът онлайн?

Как се „счупи“ разговорът онлайн?

Днес в мрежата можем да си говорим както никога за важните неща, да чуем мнението на най-интелигентните хора, да обсъдим, а… се чудим за какво да се изпокараме.
За и против правителството, Тръмп, скандалната участничка в „Ергенът“ (защото се очаква да избират само нескандални). Машинното гласуване, ваксините, съдебната реформа. Новия чалга хит, поредната недомислена законова промяна и какво ли още не.
Знаем, че живеем в социалните балони, че платформите за съдържание отдавна не са място за среща с приятели, а големи телевизори, които правят всичко, за да погълнат вниманието ни, но… какво от това?
Можем ли да променим нещо? Струва ли си? Ето един малък експеримент, гарниран с 8 повода за замисляне.
Ще се върнем към темата за ковид и начина, по който я осмислихме. Ще тръгнем по пътя на една журналистическа публикация, за да поразмишляваме заедно. За мястото, докъдето сме стигнали.

повече информация

Най-новите:

Радиевите момичета. Когато технологията се окаже ужас

Радиевите момичета. Когато технологията се окаже ужас

Открито е невероятно мощно явление, създаващо ново вещество! Не само че лекува дори нелечимите случаи на рак, но ще отвори очите на науката в толкова много посоки. Например… да освети тъмната нощ!
Мария Кюри открива радиоактивността, получава цели две Нобелови награди и проправя пътя на бъдещето.
Тя отваря вратите на една нова технология, която се оказва неочаквано успешна… До момента, когато става ясно, че силно сме подценявали опасностите от нея. Това ще струва живота на хиляди хора, които просто са търсели препитание.
Дали познаваме достатъчно технологиите, на които се доверяваме? Може ли и прословутият изкуствен интелект или пък някое от другите днес модерни направления да се окаже по-опасно, отколкото изглежда на пръв поглед?
Най-важното е да се замисляме, да обмисляме, да обсъждаме. Да си разказваме.
Истории като тази на радиевите момичета си струва да се четат по-често. За това са историите – да ни карат да подлагаме на съмнение, да имаме едно наум. Уви, не всичко, което блести, е злато…

повече информация
„Толкова ли ще е лош светът, в който няма да работим?“

„Толкова ли ще е лош светът, в който няма да работим?“

Чували ли сте за… киберпсихология? Най-накрая се появява тази област на науката, която изучава как си взаимодействаме с технологиите. Променят ли ни те като вид? Кои са най-големите предизвикателства, пред които ни изправят? Дали бързото им развитие е нечовешко предизвикателство, или обратното – естествен ход в еволюцията? Все въпроси, чиито отговори търся в повече от 300 дигитални истории, а ето че дойде време за гледната точка на киберпсихологията.
Елена Цанкова е доктор по психология, завършва в Германия, в Бремен продължава и изследователската си работа като постдокторант. През 2020 г. се връща у нас и започва работа като изследовател в БАН с амбициозната идея да проправи пътя на това ново и толкова важно направление.
През последните години изучава процесите на опознаване в интернет средата, също и общуването между човека и изкуствения интелект (ИИ). Изследва човешкото поведение в контекста на развиващите се технологии и се определя като експериментален киберпсихолог.
Ще поговорим за бързането и осъзнаването. За „зловещата долина“, в която възприятието за технологията става все по-положително с нарастващото ѝ подобие на човек, докато в един момент става толкова близка до човека, че бива възприета като зловеща… И за спокойната, философска гледна точка, която ни помага да осмисляме и приемаме големите промени.

повече информация
Чипс с ракия. Оптимистична теория за ИИ и изкуството

Чипс с ракия. Оптимистична теория за ИИ и изкуството

Виждали ли сте чипс с вкус на шкембе чорба или на ракия? А лего, в което се сглобяват катедралата „Александър Невски“ или стара жигула? Представяте ли си българските знаменитости като част от играта Mortal Kombat – Сънчо срещу Дънов и хан Кубрат срещу Гала?
Е, няма нужда да отпускате въображението си, всички тези идеи оживяват благодарение на впечатляващото сътрудничество между днешния ни гост и алгоритмите.
Росен Дуков е графичен дизайнер със забележителен опит – създава плакатите на някои от най-популярните български филми през последните години, автор е на кориците на книги, които стоят във всяка уважаваща себе си библиотека. Той е неколкократен победител в международни състезания по Photoshop, не е пресилено да го наречем световен шампион. През последните години преподава тези умения в СофтУни – и в дизайна, и в обработката на снимки, и в изкуствения интелект.
Защо визуалният артист не се бои в съревнованието с изкуствения интелект? Защо според него е важно час по-скоро да опознаваме новите възможности, които ни дават алгоритмите? Кои са следващите оригинални идеи, с които ще ни покаже докъде са стигнали генеративните модели?

повече информация
„Дигитални истории“ с престижна награда… за разказване на истории

„Дигитални истории“ с престижна награда… за разказване на истории

За 5-и път Дигитални истории се нареди сред големите победители в най-оспорвания и доказан журналистически конкурс у нас – Web Report, организиран за 7-ма поредна година от Dir.bg. Отличието е особено признание заради авторитетното жури, а и заради сериозната конкуренция – включиха се 230 журналистически материала.

„Дигитални истории“ е сред победителите във всяка от годините, откакто начинанието съществува. Наградата тази година е в категория „Истински истории“ за публикацията „Исус. Програмистът, дошъл от гетото“. Този път и втори материал бе сред трите номинирани – „Как да си генерираш инфлуенсър“ в категория „Технологии и иновации“.

повече информация
Доверявай, но проверявай онлайн!

Доверявай, но проверявай онлайн!

Ако не сте чували какво е „социално инженерство“ или „инженерия“, както казва, че е правилно да го наричаме днешният ни гост, сигурно си представяте сюжет като от „Франкенщайн“ – инженерът си прави човек… Или пък от конспиративните теории за контрол на масите.
Независимо дали сте го чували обаче, важно е все повече да си говорим по тази тема. Защото става дума за най-опасната и най-ефективната атака в дигиталния свят. Която не засяга компютри, мрежи, сървъри или програми, а най-слабото звено във веригата: човека.
„Днес пробивите в киберсигурността стават все по-често през социалната инженерия – метод, който използва манипулации и манипулативни техники, така че хората да бъдат измамени и така да бъде получен достъп до чувствителна информация“, казва специалистът по киберсигурност Пламен Цветанов.
Но кои са най-важните стъпки, за да се предпазим? Какви са най-големите рискове да подценим човек, от другата страна? Защо доверието онлайн трябва да бъде дефицитна стока? Темата е важна за всеки, дори да не си дава сметка…

повече информация
Радио-тв-грамофон. 5 неочаквани БГ технологии

Радио-тв-грамофон. 5 неочаквани БГ технологии

Знаете ли, че невинаги напрежението в мрежата у нас е било 220 волта? А че една прелюбопитна българска компютърна игра от началото на 80-те направо се превръща в… пророчество още със заглавието си? Как ли изглеждат първите български електрически скутери? А дали „хипстърите от 60-те“, които са ги ползвали, са имали как да си вземат и радио-тв-грамофон… достатъчно е било да са способни да носят 120 кг на рамо.
Отново се отправяме из пъстрата история на българската техника с най-точния и увлекателен гид. Вече 15 години Антон Оруш събира море от информация (и експонати), разказващи за миналото и настоящето ѝ. Невероятната му съдба, достойна за роман, бе една от първите дигитални истории.
Ето, качваме се в машината на времето за 5 спирки назад в историята, 5 интересни истории, свързани с миналото на технологиите по нашите земи.

повече информация
Share This