Как да (не) си направиш (ИИ) чудовище
Във времето, когато свръхнапредналият ИИ разтърсва всяка област на живота ни, е все по-лесно да му придадем човешки качества. Но колко е трудно благият, хрисим, готов винаги да съдейства ИИ модел да се превърне в… злодей? Да стане груб, дискриминиращ, обиждащ. Агресивен, заплашителен, дори опасен? Оказва се, че това далеч не е толкова сложна задача, колкото ни се иска. Точно както при човека тънката пелена на възпитанието, цивилизоваността, добротата лесно се свлича от обстоятелствата, така и ИИ може с не чак толкова много усилия да покаже най-грозното си лице. Ще се убедим от един прелюбопитен експеримент, за който ще ни разкаже ИТ специалистът Дамян Дешев. Защо това е важно? Защото във времената, когато напредналите агенти все по-често излизат от контрол; когато отворените модели могат да бъдат пуснати на достъпен за всеки хардуер; когато се доверяваме още и още на все по-убедителните и съвършени езикови модели, от това колко добре ще обсъдим, осмислим и ограничим подобни проблеми зависи бъдещето на всички ни…
02„Да оставим човечеството да се наиграе на технологии“
Как загубихме способността да почакаме и защо е важно да си я върнем? Ще успеем ли да развием умението да скучаем качествено, когато технологиите уж ни освобождават време? Какво ще пише в последната книга, написана от човек? Виолета Радкова ме впечатли с дебютния си роман „И леглото ни е зеленина“. Тя е преводач и редактор, книгата ѝ стъпва върху спомените на прабаба ѝ, записвани в бакалски тефтер, докато голяма част от нея тя пише на телефона си. Заловени от настоящето, с нея ще поговорим за бъдещето и миналото, за бързото и бавното. За книгите и смисъла.
03Литератрон. ChatGPT през… 1964 г.?!
Чували ли сте за литератрона? Представлява… машина, която създава текст по указания на потребителя. Анализира текстове, пише бестселъри, съчинява предизборни речи, сглобява комикси и заплашва да сведе езика на медиите до 500 разрешени думи. Нищо ново, нали вече всички си имаме ИИ, тези сюжети са ежедневие, само това „литератрон“ звучи малко ретро. А защо е така, става ясно, ако погледнем датата на корицата на една тънка книжка, която обаче не е пресилено да се нарече пророческа. Романът „Литератрон“ на французина Робер Ескарпи излиза през 1964 г. в поредицата „Le Meilleur des mondes“. Толкова ли обаче изобретението прилича на големите езикови модели? Меко казано.
04Мистър Макгонигъл. Американският ирландец от България
„Опитвам се да изтръгна тази история от себе си, но коя страна ще я приеме?“ Дали историите си имат дом? От Бруклин ли започва тази, където се е родил нейният герой през 1944 г.? Или пък началото ѝ е през 1947 г., в събитията, чието описание започва с изречението по-горе? А с какво са толкова различни и толкова еднакви онези далечни времена с прехвърлилия първата си четвърт 21-и век? Говорим си за Борисовата градина с Томас Макгонигъл, после той ми разказва за онзи ден през 60-те, когато най-неочаквано се озовава на софийската Централна гара. Картата с неумело прехвърлени на английски имена на улици се оказва неизползваема, затова той търси някой, който да го упъти. Влиза в първото магазинче, което попада пред очите му. Момичето зад щанда след време ще стане негова съпруга. А България ще се превърне в тема и на първия, и на най-новия му роман. Защо е толкова лесно да се роди една любов и още по-лесно – да си отиде? Може ли човек да се влюби в държава? Томас Макгонигъл със сигурност обича България. Но… защо?
05„Трябва ни нещо много мощно, което да рестартира света. Дано не е война“
Променя ли се световният ред без война? Кое може да е събитието, което да го направи днес? Как можем да ограничим властта на корпорациите, които се оказаха по-силни от държавите в епохата на технологиите? „Технологията е като нож – зависи как я използваш.“ Често чуваме това клише. Според днешния ни гост обаче то изобщо не е вярно. Защото: Технологията не е неутрална. Технологията е средство на управление и манипулиране. Технологията разкрива властови и йерархични структури. Технологията създава монополи. Йозеф Мюлбауер изследва най-ценното – мира. Макар да е австрийски политолог и журналист, учен от Университета в Грац, си говорим на български – майка му е предала езика ни. А темите за технологиите, мира и демокрацията, за преосмислянето на обществения договор, са толкова важни, че е крайно време да започнем истинския цивилизационен разговор за тях.
06Адриен Бачи. Поуките на Синята брада
Адриен обича да тича. И тича ли, тича по предприемаческия път, а и в истински маратон. Но най-вече тича срещу стереотипите. Ако го видите веднъж, ще го запомните, даже не е нужно да ви казвам с какъв детайл от характерната му визия. Струва си да го запомните и защото историята му дава неподправено вдъхновение. Адриен Бачи живее в София от 18 години, развива успешна компания за компютърни игри, която дава работа на българи, осиновява българско момиче и е събрал много дигитални истории, които да ни разкаже. Ето ги!
07„Живеем в света на преписването, на плиткото, на бързото“
На 21 г. той застава пред камерата на „По света и у нас“. 17 години по-късно си тръгва и преминава… в света на технологиите. Защото там вижда промяната, за която иска да допринесе. Там е бъдещето, в което ще живеят трите му хлапета. Спас Кьосев е сред най-разпознаваемите телевизионни лица, най-младият водещ на централните новини в историята на БНТ. Дълги години кара „БНТ такси“ в награждавано и смислено предаване, което даваше думата на всеки за важните теми от деня. Толкова много неща има да обсъдим – за технологиите и журналистиката, за телевизията и четенето, за новината и публицистиката. Хайде, качвайте се и вие в „Дигитални истории такси“! Безплатно е и винаги ще бъде!
08„ИИ не е по-добър програмист от този, когото имате!“
„Както и да интегрираме ИИ, накрая всеки ред код трябва да бъде прочетен от човек.“ „Пълно безумие е да вярваме, че генерален ИИ може да бъде постигнат с големите езикови модели.“ „Светът, такъв, какъвто го познавахме, е мъртъв и няма да се върне.“ На Иван Ванков – Гатака винаги може да се разчита за собствен, неортодоксален, провокативен и замислящ поглед към технологиите, ще се убедите от следващите редове.
09„Всъщност няма смисъл да притежаваш кола“
Дали бъдещето окончателно принадлежи на електрическите коли? Как ще изглежда мобилността утре? Ще притежаваме ли собствени коли? А колко далеч е моментът, когато човек вече няма да има нужда да шофира? За Деница Даверова „вчера“ е киното. Посветила му е две десетилетия, а баща ѝ е сценаристът на легендарния филм с това име. Днес и утре обаче за нея са технологиите. От малка има една не често срещана сред момичетата страст – колите. После идват електрическите превозни средства. През 2018-а тя за първи път се качва на електромобил и бързо решава, че това е бъдещето – и за мобилността, и за самата нея. Напуска снимачните площадки и основава Travel by Electric – платформа, която събира в себе си цялата нужна информация за шофьорите.
10ИИ при букмейкъра. Спечелиха ли Claude и ChatGPT от залози за Световното?
Дадох по 20 евро на най-новите версии на ChatGPT и Claude. Отворих им акаунти на два популярни букмейкърски сайта, точно преди да започнат решителните мачове от Световното. После им оставих пълната свобода да се справят сами. Какво ли се получи? Може ли ИИ да се превърне в помощник на залагащите или в край на този бизнес? Не бях отварял букмейкърски сайт. Не бих и работил за такива, видял съм достатъчно примери, че хазартът е наркотик, който убива. Но в днешните времена… не можем ли да проверим дали пък ИИ не е този, който може да победи него? Да се окаже, че е прекалено добър и да обезсмисли чистата математика, която се крие зад това, че няма как да не загубиш дългата игра…
11Изгубихме ли последното състезание с ИИ?
Живеем в невероятното бъдеще. Загубихме ли всяко възможно състезание с изкуствения интелект? Моят отговор е еднозначен. Ще се радвам да чуя вашия.
12Какво научих от виртуалния „Георги Караманев“?
Да си говориш сам. В психологията това далеч не се приема за признак на добро емоционално здраве. Ами ако освен да си приказваш сам, пуснеш на свобода своя виртуален двойник, за да си говори с него всеки? Какво ще го попита, което би попитал теб? Ами което не би попитал? Някои експерименти на този сайт вече са по-смели от невъзможното и невъобразимото. Ето че ви очаква точно това. Преди два месеца на тази страница се появи „Георги“ – мой дигитален двойник, когото можете да срещнете и днес с бутончето за разговор най-долу вдясно на този сайт. Добре дошъл беше да си поговори с него всеки. От самото начало бях предупредил, че ще следя разговорите, за да завършим подобаващо експеримента със следващите редове. В които ще разгледаме какво се случи с виртуалния „Георги“. Какво го питаха хората? Къде се справи той и къде се провали? Какво има да ни каже всеки от тези разговори? Надникваме в разговорите с чатбота, размислите ще оставя основно на вас. А ако искате да проверите уменията му, той все още е тук и ви очаква. Признавам, аз определено не предполагах и за частица от разговорите, които проведе „Георги“. Ето какво имам предвид.
13Защо всички слушат Андрей Карпати?
„Вече съществува нов вид програмиране, който наричам „вайб кодинг“ – кодене по усещане, когато напълно се оставяш на вайба, прегръщаш експоненциалния растеж и забравяш, че кодът изобщо съществува.“ 2 февруари по нашите ширини носи определени асоциации, но същата дата на миналата година роди ИТ света на бъдещето. Именно тогава един световноизвестен програмист създаде с думите по-горе цяло ново направление. „Вайб кодинг“ – светът, в който софтуерът не се създава с писане на компютърен код, а с обяснения на човешки език. Андрей Карпати през последните години е сред малцината учени, които не само създават, но и премислят, обясняват изкуствения интелект на целия свят – с лекции и блогпостове, които се четат като приключенски романи. Словакът създаде огромна част от термините, с които днес боравим в света на ИИ, а и на концепциите, които ни помагат да го осмисляме и използваме. Един от създателите на OpenAI, на самоуправляващите се коли на Tesla, изненадващо преди месец той обяви, че става част от Anthropic – компания, която несъмнено проправя бъдещето. А как ще изглежда това бъдеще според Андрей Карпати? Що за човек е един от пророците във времената на напредналия изкуствен интелект?
14Нямате работа?!
Темата за работните места, които ИИ вече завзема, тепърва излиза на дневен ред. Как точно технологията ще промени професиите? Кого ще замени и какви нови поприща ще създаде? Ще остане ли изобщо работа за хората? Дали не е време да помислим за въвеждането на безусловен базов доход?
15„Създавайки истинския ИИ, имаме право само на един опит“
За генералния изкуствен интелект говорят всички. Огромната следваща стъпка, която ще ни изправи пред колосални и непредвидими предизвикателства като вид. Ето че една от първите научни конференции по тази тема се състоя в Югозападния университет в Благоевград, а неин организатор беше днешният ни гост. Димитър Добрев е изследовател в областта на изкуствения интелект и математическата логика, преподава в СУ. Автор е на разработки за дефиницията на ИИ, за създаването на генерален ИИ, за риска първият истински изкуствен интелект да се окаже и последен. Както казва той, преди да пуснем духа от бутилката, нека поне да сме решили какво искаме от него. Говорим за интелекта като сила, за наивността към бъдещето, за контрола, регулациите, отворения код и за онзи прост, но плашещ въпрос: Ако не знаем какво бъдеще искаме, как очакваме да го получим?
16Как „Рататуй“ създаде Бънк Ромеро
Бънк Ромеро е истински феномен. Поредицата от 6 книги събира най-доброто от криминалния, фантастичния жанр с автентично чувство за хумор и определено ме впечатли. Затова нямаше как да не поканя автора ѝ да поговорим за книги и бъдеще, за фантастика и фантазия. Емил Минчев е писател, известен с поредицата за детектива вълколак, но и преводач, оставящ следа с произведения като „Отнесени от вихъра“, „Баскервилското куче“, „Великият Гетсби“. Но стига приказки, да започваме. Многословието не е в стила на Бънк, не е и на неговия създател, но с него имаме да си кажем интересни неща.
17Апокалипсис. Как?
85 секунди. Символичният часовник, който показва колко сме близо до края на света, за първи път през 2026-а посочи този безумно кратък срок. Отива си поколението, което не само помни последната (засега) световна война, но и стана свидетел на първите (дано да бъдат и последни) взривове на ядрено оръжие. Като че ли имунитетът на човечеството изтича. Само че нямаме пробата Манту, за да ни припомни, да ни стресне, да ни замисли. Това е най-неприятната Дигитална история от над 500. Но вярвам, че е важно да бъде разказана. Какво ще стане, ако един ден някъде по света се взриви ядрена бомба?
18„ИИ изпитва що за хора сме всъщност“
За думите ще стане дума. За словото и новия път, по който ще поеме с невероятния напредък на изкуствения интелект. Напредък, който дойде именно чрез словото. Николай Теллалов е любим гост на Дигитални истории, преди 5 години с него направихме първия експеримент на сайта – интервю в разкази. Този път ще поговорим за всичко, което се случи междувременно. С технологиите, с думите и всички нас.
19„1984“ през 2026 г. Прав ли се оказа Оруел?
11 издания от 2021 г. до днес. Толкова са новите варианти, в които излезе през последните 5 години само на български една от най-обсъжданите книги на нашето време. Точно тогава се навършиха 70 години от смъртта на Джордж Оруел, което „отвори“ правата за издаване. Годините изтичат, но актуалността на най-известната антиутопия като че ли само расте. Живеем ли наистина в света на Големия брат, или Оруел не се оказа чак толкова точен в преценките си? Хайде да обсъдим този важен и голям въпрос, защото той е показателен и за бъдещето.
20„Вече генерираме страхотно много плява“
Можем ли и как да спрем когнитивния упадък, който идва с огромния напредък на изкуствения интелект? Може ли махалото на когнитивния упадък, на предоверяването на технологиите, на счупения обществен разговор да се обърне и как? Ще сблъскаме оптимистичната и песимистичната гледни точки към най-големия въпрос, заради който го има този сайт. Проф. Юлита Василева е световноизвестен изследовател в областта на компютърните науки и на взаимодействието ни с технологиите. Срещнахме се преди 5 години, за да поговорим за балона на филтрите, за начина, по който си взаимодействаме и се информираме онлайн. Днес тя изследва една също толкова важна и още по-гореща тема – можем ли да обърнем техниките за манипулиране онлайн срещу техните създатели?
