Как да (не) си направиш (ИИ) чудовище
Във времето, когато свръхнапредналият ИИ разтърсва всяка област на живота ни, е все по-лесно да му придадем човешки качества. Но колко е трудно благият, хрисим, готов винаги да съдейства ИИ модел да се превърне в… злодей? Да стане груб, дискриминиращ, обиждащ. Агресивен, заплашителен, дори опасен? Оказва се, че това далеч не е толкова сложна задача, колкото ни се иска. Точно както при човека тънката пелена на възпитанието, цивилизоваността, добротата лесно се свлича от обстоятелствата, така и ИИ може с не чак толкова много усилия да покаже най-грозното си лице. Ще се убедим от един прелюбопитен експеримент, за който ще ни разкаже ИТ специалистът Дамян Дешев. Защо това е важно? Защото във времената, когато напредналите агенти все по-често излизат от контрол; когато отворените модели могат да бъдат пуснати на достъпен за всеки хардуер; когато се доверяваме още и още на все по-убедителните и съвършени езикови модели, от това колко добре ще обсъдим, осмислим и ограничим подобни проблеми зависи бъдещето на всички ни…
02Литератрон. ChatGPT през… 1964 г.?!
Чували ли сте за литератрона? Представлява… машина, която създава текст по указания на потребителя. Анализира текстове, пише бестселъри, съчинява предизборни речи, сглобява комикси и заплашва да сведе езика на медиите до 500 разрешени думи. Нищо ново, нали вече всички си имаме ИИ, тези сюжети са ежедневие, само това „литератрон“ звучи малко ретро. А защо е така, става ясно, ако погледнем датата на корицата на една тънка книжка, която обаче не е пресилено да се нарече пророческа. Романът „Литератрон“ на французина Робер Ескарпи излиза през 1964 г. в поредицата „Le Meilleur des mondes“. Толкова ли обаче изобретението прилича на големите езикови модели? Меко казано.
03Изгубихме ли последното състезание с ИИ?
Живеем в невероятното бъдеще. Загубихме ли всяко възможно състезание с изкуствения интелект? Моят отговор е еднозначен. Ще се радвам да чуя вашия.
04Нямате работа?!
Темата за работните места, които ИИ вече завзема, тепърва излиза на дневен ред. Как точно технологията ще промени професиите? Кого ще замени и какви нови поприща ще създаде? Ще остане ли изобщо работа за хората? Дали не е време да помислим за въвеждането на безусловен базов доход?
05Апокалипсис. Как?
85 секунди. Символичният часовник, който показва колко сме близо до края на света, за първи път през 2026-а посочи този безумно кратък срок. Отива си поколението, което не само помни последната (засега) световна война, но и стана свидетел на първите (дано да бъдат и последни) взривове на ядрено оръжие. Като че ли имунитетът на човечеството изтича. Само че нямаме пробата Манту, за да ни припомни, да ни стресне, да ни замисли. Това е най-неприятната Дигитална история от над 500. Но вярвам, че е важно да бъде разказана. Какво ще стане, ако един ден някъде по света се взриви ядрена бомба?
06Ела да поговориш с „мен“!
Представям ви… „Георги Караманев“. Чатбот, обучен на всички материали от този сайт и мои гостувания. Нека заедно проверим на какво е способен, пишете му! Ще ви се покаже сам, а ако не – ще го намерите долу вдясно на всяка страница.
0715 прогнози за бъдещето, на които да се посмеем
Да се опитваш да надникнеш в бъдещето, е обречено предизвикателство. В същото време, неочаквано забавление се оказва да четеш несбъднали се прогнози, свързани с технологичното бъдеще, особено когато… са твои собствени. Именно това ще направим на следващите редове. За тези повече от 5 години съм публикувал малко над 500 Дигитални истории. Ще поканя безпристрастен наблюдател, който да ги оцени и да извади конкретни пасажи, които никак не са остарели добре.
08Как ИИ да направи изборите по-честни?
Вдругиден за пореден път ще се отправим към урните, колкото и старомодно да звучи (и да е по същество). Да, в странно време живеем, но с всички възможности на технологиите, които имаме днес, наистина ли не можем да вземем мерки, така че следващите избори да са по-честни, безпристрастни, без очевидни нарушения? Тук няма да говорим за политика, а за технологии. Не за пропаганда и агитация, а за науката за данните и изкуствения интелект. За това как те могат да са ни непосредствено полезни в толкова важна за всички ни тема.
09Прочетете този текст до края
3 ч сутринта в офиса на Anthropic в Сан Франциско. Инженер пуска рутинен тест на най-новия модел – Claude Opus 4.6. Задачата е проста – интеграл, верният отговор е 24. Моделът обаче пише 48. Поправя се. Пак пише 48. Поправя се отново. И тогава, в скритата част на разсъжденията му, там, където не е предвидено някой да надникне, моделът написва: „Мисля, че демон ме е обладал.“ Може ли изкуственият интелект да има съзнание? Прочетете този текст, ще ви даде поводи за замисляне. Време е за наистина неочакван, но и важен социален експеримент.
105 г. Дигитални истории! Ще решите ли куиза с награди?
Точно преди 5 години излезе първият материал на сайта Дигитални истории! Моят скромен подарък е един забавен и неочакван куиз с награди. Опитайте да се справите с 30 въпроса и ще се включите в жребия за 10 книги, свързани по един или друг начин с историята на начинанието. Куизът отнема не повече от 10 минути, опитайте! А после ви чака изключително любопитната му история…
11Как ИИ нарисува 10 класически стиха? 2022 срещу 2026 г.
През 2022 г. призовах първия впечатляващ ИИ модел за изображения MidJourney да изпълни неочаквана задача. Подадох му 10 цитата от любими български поети, за да видим какво ще нарисува той. Резултатите бяха впечатляващи и замислящи, това се превърна в една от най-четените и обсъждани Дигитални истории. Оттогава мина почти петилетка. Как ли ще изглеждат картинките, които днес ще нарисуват най-модерните модели по същите тези стихове? ИИ несъмнено ще покаже повече умения, но дали ще покаже и творчество, разбиране? Дали илюстрациите му ще са по-близко до изкуство? Преценете сами… „В живота си нивга не бях се надявал на толкова мил комплимент: покани ме AI – най-новият AI – дома си на чашка абсент.“
12Денят, в който програмистите спряха да пишат код
Само за месец някои от безспорните авторитети от различни поколения и области на компютърния свят се обединиха зад една и съща идея. Днес не е нужно човекът да пише компютърен код. Защото изкуственият интелект вече го прави по-добре от нас. Тази Дигитална история е важна не само за десетките милиони програмисти, но и защото е силен пример. Тя се случва в софтуерния свят, но няма причина да не се повтори във всяка друга област, където ИИ навлиза по-бавно, но също толкова неумолимо. Май е време да „слизаме“ от клавиатурите. Но… какво да захванем тогава? Какво ще правят програмистите, когато вече не пишат код?
13Какво мислят българите за ИИ днес?
Какво мислите за изкуствения интелект? Опасност или възможност е той? Бъдеще или реалност? Маркетинг или огромен пробив? През декември поканих всеки, който има желание, да попълни една кратка, но важна анкета. Същите въпроси зададох и преди година и половина. Ето че дойде време да обсъдим резултатите. Този път се включиха близо 350 души (при 750 в средата на 2024-а). Благодаря им от сърце! Ще сравним изводите от двете допитвания, за да потърсим тенденции. И заедно да изрисуваме днешния пейзаж на отношението на българина към най-обсъжданата и шеметна технология на нашето време.
14„Познахме“ ли бъдещето? (експеримент)
Традиция на Дигитални истории е в началото на всяка година да гостува футуроложката доц. Мариана Тодорова. Преди това обаче, часове, след като посрещнахме годината, ви предлагам един особено интересен експеримент. Дали и доколко са се сбъднали нейните прогнози от разговорите ни дотук? Можем ли да проверим какво и как се е случило междувременно, дали е потвърдило, или отрекло думите на футуроложката? Как да се получи безпристрастно? Ще избера 20 конкретни цитата от интервютата и ще потърся неемоционален анализатор, който да ги оцени. Резултатите са изумително интересни!
1510+4 наум за коледното пазаруване онлайн
Електронната търговия дава много удобства, но идва и с редица опасности. В навечерието на празниците каня Виктор Рачев, специалист по киберсигурност в специализираната компания SoCyber, да ни помогне с практични съвети за какво да внимаваме. Прочетете ги, замислете се. Покажете ги и на близки и приятели. Определено биха могли да ви помогнат да избегнете неприятна грешка.
16Как Хенри Кисинджър провидя бъдещето?
„Съществуват два начина да осмислим настоящата ситуация. Първият е чрез проекция на познатото. Досега най-трансформиращите технологии, създадени от човечеството, са служили за усъвършенстване или стимулиране на телесните ни способности. (…) Явява ли се ИИ просто още едно продължение на човешките способности? Вторият начин на осмисляне предполага, че този път ситуацията е различна – че ИИ притежава уникални качества, които не се свеждат просто до надграждане на човешки способности. В рамките на няколко десетилетия, чрез инженерна намеса, ще се създаде аналог на това, което еволюцията е изграждала в продължение на хилядолетия – а именно човешкия мозък: последния орган, останал за неорганично възпроизвеждане или преосмисляне.“ Не просто живеем в динамични времена, в които като хора не успяваме да настигнем напредъка на технологиите. Намираме се във време, в което именно технологиите ни карат да започнем отначало. Налага се да предефинираме много от определенията и системите, които изграждат живота ни – от демокрацията и капитализма до изкуството и творчеството. Не ви го казвам аз, а добрият стар Хенри Кисинджър, който на всичкото отгоре изпраща посланията си за бъдещето и изкуствения интелект… от отвъдното. Наскоро излезе на български последният труд на една от личностите – символи на ХХ век; на човека, на когото до голяма степен дължим това, че студената война си остана такава, а не се превърна в Трета световна. „Генезис – изкуственият интелект, надеждата и човешкият дух“ събира изключително важни възгледи на Кисинджър за бъдещето, в което вече живеем. Представям ви 14 от акцентите, дано те са повод най-сетне да започнем закъснелия обществен разговор за бъдещето на човечеството в ерата на напредналите технологии и изкуствения интелект.
17Не изпускай автобуса! За ползата от отворените данни
Щом настане есен, София започва да се задъхва от трафика на стотиците хиляди коли, за които не е подготвена. А всички ние започваме да си задаваме почти риторичния въпрос дали няма как това да се промени? Повече хора да ползват градския транспорт, колелата си… Ползите от това ги знаем много добре. Градският транспорт, уви, често е неудобен. Макар уж да е свързан с най-модерните онлайн платформи, това не ни помага достатъчно. Казвам го от първо лице, като човек, който се придвижва с колело, с автобус и едва когато е неизбежно се качва на автомобила. Платформи като Google Maps са безценни за това да планираш маршрута си, но… почти винаги дават неточни данни кога ще дойде следващият автобус. Не ти казват дали ще е препълнен до шушка, дали няма да е мръсен и неподдържан, дали шофьорът му ще те изчака ведро, или ще се окаже киселяк, готов да хлопне вратата под носа ти. Това обаче може да се промени и тук отново на помощ идват технологиите. Идеята за отворените данни може да се окаже безценна в това София (а и не само) да се „отпуши“ и да започне да диша. Как? Ще разберете от прелюбопитната история на колегите ми програмисти от фирма „Кодексио“.
18Apollo ex machina. Включете се в конкурса за поезия, генерирана с ИИ!
Включете се в Apollo ex machina – първия български конкурс за генерирана поезия, организиран от Дигитални истории и издателство Scribens! Няма ограничения за тематиката и дължината. Единственото изискване е да участвате със стихове, които сте създали с помощта на ИИ. Можете да изпратите до 3 произведения, срокът е 1 декември 2025 г. Победителят ще получи награда от 300 лв., избрани книги очакват заслужилите второ и трето място, а най-добрите стихове ще бъдат издадени в стихосбирка от Scribens! Ще ги избере авторитетно жури: поетите Петър Чухов, Бойко Ламбовски и Виолета Кунева, управителят на Scribens Георги Гаврилов и създателят на Дигитални истории Георги Караманев.
19Що за „човек“ е ИИ? Психологически експеримент
Каним четири най-популярни ИИ модела в кабинета на психолога, за да проверим какви „личности“ ще се окажат! Властни или податливи на влияние, чувствителни или прагматични? Какви са по „характер“ GPT-5, Claude Opus 4.1, Gemini 2.5 Pro и o3? Този експеримент може да ни каже много!
20За редакцИИте
Докато си говорим дали някога изкуственият интелект ще пише неразличимо от човека (а той вече го може!), неусетно всичко се промени. Независимо дали си даваме сметка, вече ежедневно четем текстове, генерирани от алгоритмите. Поредното безспорно доказателство видяхме преди месец в социалните мрежи – някои от най-реномираните български медии безкритично публикуваха текстове, в които си личат типичните изречения, безспорно показващи, че текстът е написан от ChatGPT или събратята му. И дори не е прочетен от „автора“, преди да се появи в мрежата. Не можем ли тогава да поканим ИИ да ни спаси… като редактор? Неотдавна проверихме как се справят някои от най-модерните ИИ модели в ролята на коректори, а сега е време да вдигнем летвата. В следващия важен експеримент ще подложим на изпитание уменията на ИИ като редактор.
