Как да (не) си направиш (ИИ) чудовище
Във времето, когато свръхнапредналият ИИ разтърсва всяка област на живота ни, е все по-лесно да му придадем човешки качества. Но колко е трудно благият, хрисим, готов винаги да съдейства ИИ модел да се превърне в… злодей? Да стане груб, дискриминиращ, обиждащ. Агресивен, заплашителен, дори опасен? Оказва се, че това далеч не е толкова сложна задача, колкото ни се иска. Точно както при човека тънката пелена на възпитанието, цивилизоваността, добротата лесно се свлича от обстоятелствата, така и ИИ може с не чак толкова много усилия да покаже най-грозното си лице. Ще се убедим от един прелюбопитен експеримент, за който ще ни разкаже ИТ специалистът Дамян Дешев. Защо това е важно? Защото във времената, когато напредналите агенти все по-често излизат от контрол; когато отворените модели могат да бъдат пуснати на достъпен за всеки хардуер; когато се доверяваме още и още на все по-убедителните и съвършени езикови модели, от това колко добре ще обсъдим, осмислим и ограничим подобни проблеми зависи бъдещето на всички ни…
02„Да оставим човечеството да се наиграе на технологии“
Как загубихме способността да почакаме и защо е важно да си я върнем? Ще успеем ли да развием умението да скучаем качествено, когато технологиите уж ни освобождават време? Какво ще пише в последната книга, написана от човек? Виолета Радкова ме впечатли с дебютния си роман „И леглото ни е зеленина“. Тя е преводач и редактор, книгата ѝ стъпва върху спомените на прабаба ѝ, записвани в бакалски тефтер, докато голяма част от нея тя пише на телефона си. Заловени от настоящето, с нея ще поговорим за бъдещето и миналото, за бързото и бавното. За книгите и смисъла.
03„Трябва ни нещо много мощно, което да рестартира света. Дано не е война“
Променя ли се световният ред без война? Кое може да е събитието, което да го направи днес? Как можем да ограничим властта на корпорациите, които се оказаха по-силни от държавите в епохата на технологиите? „Технологията е като нож – зависи как я използваш.“ Често чуваме това клише. Според днешния ни гост обаче то изобщо не е вярно. Защото: Технологията не е неутрална. Технологията е средство на управление и манипулиране. Технологията разкрива властови и йерархични структури. Технологията създава монополи. Йозеф Мюлбауер изследва най-ценното – мира. Макар да е австрийски политолог и журналист, учен от Университета в Грац, си говорим на български – майка му е предала езика ни. А темите за технологиите, мира и демокрацията, за преосмислянето на обществения договор, са толкова важни, че е крайно време да започнем истинския цивилизационен разговор за тях.
04Нямате работа?!
Темата за работните места, които ИИ вече завзема, тепърва излиза на дневен ред. Как точно технологията ще промени професиите? Кого ще замени и какви нови поприща ще създаде? Ще остане ли изобщо работа за хората? Дали не е време да помислим за въвеждането на безусловен базов доход?
05Апокалипсис. Как?
85 секунди. Символичният часовник, който показва колко сме близо до края на света, за първи път през 2026-а посочи този безумно кратък срок. Отива си поколението, което не само помни последната (засега) световна война, но и стана свидетел на първите (дано да бъдат и последни) взривове на ядрено оръжие. Като че ли имунитетът на човечеството изтича. Само че нямаме пробата Манту, за да ни припомни, да ни стресне, да ни замисли. Това е най-неприятната Дигитална история от над 500. Но вярвам, че е важно да бъде разказана. Какво ще стане, ако един ден някъде по света се взриви ядрена бомба?
06„1984“ през 2026 г. Прав ли се оказа Оруел?
11 издания от 2021 г. до днес. Толкова са новите варианти, в които излезе през последните 5 години само на български една от най-обсъжданите книги на нашето време. Точно тогава се навършиха 70 години от смъртта на Джордж Оруел, което „отвори“ правата за издаване. Годините изтичат, но актуалността на най-известната антиутопия като че ли само расте. Живеем ли наистина в света на Големия брат, или Оруел не се оказа чак толкова точен в преценките си? Хайде да обсъдим този важен и голям въпрос, защото той е показателен и за бъдещето.
07„Вече генерираме страхотно много плява“
Можем ли и как да спрем когнитивния упадък, който идва с огромния напредък на изкуствения интелект? Може ли махалото на когнитивния упадък, на предоверяването на технологиите, на счупения обществен разговор да се обърне и как? Ще сблъскаме оптимистичната и песимистичната гледни точки към най-големия въпрос, заради който го има този сайт. Проф. Юлита Василева е световноизвестен изследовател в областта на компютърните науки и на взаимодействието ни с технологиите. Срещнахме се преди 5 години, за да поговорим за балона на филтрите, за начина, по който си взаимодействаме и се информираме онлайн. Днес тя изследва една също толкова важна и още по-гореща тема – можем ли да обърнем техниките за манипулиране онлайн срещу техните създатели?
0815 прогнози за бъдещето, на които да се посмеем
Да се опитваш да надникнеш в бъдещето, е обречено предизвикателство. В същото време, неочаквано забавление се оказва да четеш несбъднали се прогнози, свързани с технологичното бъдеще, особено когато… са твои собствени. Именно това ще направим на следващите редове. За тези повече от 5 години съм публикувал малко над 500 Дигитални истории. Ще поканя безпристрастен наблюдател, който да ги оцени и да извади конкретни пасажи, които никак не са остарели добре.
09„Техниката все повече изкоренява човека“
„Ние оставаме несвободни и приковани към технологиите, независимо дали страстно ги подкрепяме или отричаме.“ Звучи актуално, нали? Даже все по-актуално – превалили първата четвърт на 21-ото столетие, ние сме заобиколили всяка стъпка от живота си с технологии. Те диктуват работното ни ежедневие, те са връзка с най-близките ни, те до голяма степен формират начина, по който мислим. По всичко личи, че сме далеч от предела на тази любовно-омразна зависимост, дори напротив. С възхода на изкуствения интелект се изправяме пред следващото поколение предизвикателства. Което все повече ни лишава от свободата за сметка на предоверяването. Думите по-горе са на един човек, който никога не е скролвал из фейсбук и тикток, никога не е държал в ръката си смартфон. И може би точно затова социалната дисекция, която предлага, на връзката ни с технологиите, е толкова прецизна и безпристрастна, пророческа и историческа. Идваща от миналото, за да даде нов поглед към бъдещето. Мартин Хайдегер е един от най-противоречивите философи на ХХ век. Днес думите му – именно за връзката ни с технологиите, са по-важни от всякога. Представям ви 10 избрани цитата, които да обсъдим.
10Как да надникнем в „мислите“ на изкуствения интелект?
„Работата, професионалния живот, устремът да постигаме корпоративни успехи и позиции, това се е превърнало в масова култура на обществото ни в световен мащаб. Много хора осмислят по този начин живота си и до момента. Оттук нататък ще трябва да го променим. Ще трябва да търсим смисъл.“ Озовахме се във време, в което чатботът не е просто помощник, а и „психотерапевт“. Преди още да го познаваме достатъчно добре, преди да сме заложили етичните рамки. Вече виждаме първите предизвикателства от това, а тепърва се задават истинските проблеми. Доника Боримечкова е психолог и психотерапевт с над 15 години опит. Този път решихме заедно да поканим на психотерапевтичен сеанс… изкуствения интелект. Защото, както казва Доника, вече много от клиентите ѝ получават съвети от него, преди да я срещнат. Така и не открихме начин и подход, с който да направим подобен експеримент, затова решихме да обсъдим темата, да поставим основите, след което да поканим всеки от вас да ни даде идеи как да продължим. Ето как започва този разговор.
11Експеримент: Колко човека ще кликнат на опасния линк?
Много важен и показателен експеримент. Със специалисти по киберсигурност изпращаме имейли до 393 случайно избрани български адреса. Симулираме кибератака, за да видим колко хора ще се подведат. И резултатите са изумителни…
12„Задава се сложна и тежка година“
Не, няма астрология тук, а чиста наука. Колко учени познавате, които могат с точност 85% да предскажат бъдещето? Аз – само един. Оценката дори не е само моя, а и на ChatGPT от един особено показателен експеримент. Доц. Мариана Тодорова гостува в превърналото се в традиция интервю за Дигитални истории в началото на всяка година. Футуроложката винаги дава важни поводи за замисляне, няма нужда да губим времето с дълго въведение. Нека заедно надникнем в бъдещето!
13„Познахме“ ли бъдещето? (експеримент)
Традиция на Дигитални истории е в началото на всяка година да гостува футуроложката доц. Мариана Тодорова. Преди това обаче, часове, след като посрещнахме годината, ви предлагам един особено интересен експеримент. Дали и доколко са се сбъднали нейните прогнози от разговорите ни дотук? Можем ли да проверим какво и как се е случило междувременно, дали е потвърдило, или отрекло думите на футуроложката? Как да се получи безпристрастно? Ще избера 20 конкретни цитата от интервютата и ще потърся неемоционален анализатор, който да ги оцени. Резултатите са изумително интересни!
14Да се изплъзнеш от мрежата
Интернет все ни свързва, интернет ни дели. Но колко много страни от живота си сме дали като отговорност на технологиите? Рядко си даваме сметка. Коледните празници са прекрасен момент да го направим. Ако сте се поуморили от празнични емоции и трапези, подготвил съм ви една специална Дигитална история. Днешната ни героиня среща любовта в интернет. Неочакваният пламък в мрежата я води до Англия, където създава щастливо семейство. Докато в един момент тя и съпругът ѝ решават, че искат да избягат… от обществото, в което всичко се случва онлайн, а човешкият контакт е отживелица. Отделните истории правят общата ни история,а разказът на Даниела Радкова ще завърши в едно много специално място за общата ни история. И с каузи, които са красиво символични точно за празниците.
15„Българите стават все по-интелигентни“
Как така пред последните 30 години българите… стават все по-интелигентни според единствената организация, която доказано измерва този показател? Програмистите ли са най-много сред хората, издържали тестовете на Менса? Има ли значение интелигентността във времето, когато технологиите се справят с все повече умствени задачи? Можем ли да оценяваме възможностите на ИИ с човешките мерки в тази област и за какво е знак, ако днес ChatGPT достига средното човешко IQ 100? Как да променим средата, която потиска интелигентните деца и им пречи да развият потенциала си? Защо в дните на ИИ революция е по-важно от всякога да развиваме ума си?
16„ИИ е големият шанс всеки да изкачи своя Еверест“
„Светът е пред Рубикон. Ще съжителстваме с умните машини, очаква ни нов, различен свят, но готови ли сме за него?“ Този въпрос, заради който съществуват и Дигитални истории, задава на корицата на новата си книга днешната ни гостенка Петя Минкова. В „Преходът от цифровия век към хибридната цивилизация“ тя разказва за дългия път от първите компютри до бъдещето на свръхмогъщия изкуствен интелект. И макар отговорът на въпроса дали сме готови да е ясен, има още толкова важни въпроси, които ще обсъдим на следващите редове! Имаме ли друго бъдеще, освен като хибридна цивилизация между хора и технологии? От какво зависи оцеляването ни и как ще изглежда ежедневието ни, когато този преход се случи с пълната си сила? Защо ИИ е много повече от опасност, а и възможност всеки един от нас да изкачи своя личен Еверест?
17Ювал Харари. Пророкът на новото време
Ювал Ноа Харари. Често ще чуете името на историка и футуролог в разговорите за бъдещето. През последните години той се утвърди като световният мислител, който не само успява задълбочено и компетентно да разплита нишките, от които е съшита историята на човечеството, но и поставя големите въпроси на утрешния ден. Но как един професор по история се превърна в любим автор на хора като Бил Гейтс и Барак Обама, Марк Зукърбърг и Бил Клинтън, докато в същото време е популярен, превеждан, четен и обсъждан? Как успява да стигне с дългите си тестове до съзнанието на хората във времената, когато концентрацията и задълбоченият поглед се превърнаха в екзотични умения? Шарен образ, отвъд стереотипите. Любима мишена на всеки, който иска да блесне. Веган и защитник на животните, със съпруга му са начело на фондация, която цели да провокира обществения дебат по важни теми. Израелецът е едновременно широко признат учен и авторитет. Най-важното според мен – ценен и силен глас, който ни предупреждава за непосредствените опасности пред нас като вид. Ето какво си струва да знаем за него и впечатляващите му прозрения.
18„Пожертвахме две поколения, защото не знаехме как работят технологиите“
„Ние, възрастните, пожертвахме две поколения, защото създадохме нещо, което не знаехме какво е и как работи. Тези деца са жертва на нашата некомпетентност. Вече никой не може да каже, че не знаем до какво води прекомерната употреба на дигитални устройства за развитието на емоционално-интелектуалния апарат на децата.“ Но какви точно са тези щети и защо са толкова важни? Как прекомерното излагане на технологии променя необратимо децата? И какво да правим, след като го знаем? Слави Стоев е психолог, води обучения за лидерство и мениджърски умения, водещ е на подкаста „Естествен ѝнтелект“. В същото време е и баща, и автор на детски книжки, посветени на ранното развитие и емоционалната интелигентност. Точният гост, с когото да потърсим има ли среден път в отношението на родителите към технологиите и как можем да го намерим. Ще поговорим за базовите умения, които днес не успяваме да развием, и упадъка, към който се е насочила цивилизацията ни. Ако бързо не вземем целенасочени мерки, свързани именно с пресечната точка между технологиите и децата.
19„Идва епоха, в която ще трябва да преизобретим себе си“
Как ще изглежда утрешният ден? Защо се задава „епохата, в която предстои да преизобретяваме себе си“? Какво има смисъл да учат днешните деца, за да са готови за бъдещето? Кои професиите ще оцелеят? И как да намерим онези, все по-дефицитни умения, които си струва да им помагаме да развиват? Доц. Мариана Тодорова е пионер на българската футурология в съвременния ѝ вид. Превърна се в традиция в началото на всяка година да ми гостува с прогнози, които недвусмислено се претворяват в реалност. „Връщаме се към това най-изконно човешко качество за критично мислене, разсъждение и дебати.“ „Въпрос на време е повечето от задачите, които изпълняваме, да бъдат иззети от изкуствения интелект. Ще живеем в една перманентна промяна и в един момент няма да можем да наваксаме. Бихме могли да реагираме като човечество само чрез глобален политически консенсус, в който да решим, въпреки че технологията може да прави почти всичко, хората остават. Но подобна философия е много анти капитализма и се изисква или някакъв безкраен хуманизъм, или диктаторство, за да се наложи.“ Можем ли да сме готови за бъдещето?
20„Епидемията от невежество само ще се разширява“
„Това, че не можем да захванем един смислен диалог, доведе до социална изолация на стотици хиляди хора. Някои се разболяват и умират просто защото нямат пълноценно общуване. Изкуственият интелект според мен ще засили тази тенденция, защото ще заблуди хората, че разговарят с приятел, с някого, когото са загубили или който не иска да ги чува. Така се оказваме в един свят, в който уж можем да си говорим. А всъщност, зад тази привидна палитра от гледни точки, от думи, словесна салата, включително от егоцентрични академични речи, седят едни изплашени, обезверени, обеднели, интелектуално и емоционално хора. Това според мен е големият ужас на съвремието.“ От поезията започна разговорът ни с писателката Силвия Томова, за да мине през образованието, историята, през епидемията от невежество и назрялата нужда от обществено пробуждане. На фона на всичко това като неизменен спътник останаха технологиите, които променят всяка от тези теми из основи. Журналист и дефектолог по образование, тя публикува есета, разкази, романи. Носител на редица награди, автор на 5 романа и 3 сборника с разкази, Силвия често наднича и в миналото, и в големите въпроси на днешния ден. Не се страхува да излезе от клишетата и да предизвиква мейнстрийма и в литературата, и на общественото поле. Ето че се срещаме за един важен и дошъл тъкмо навреме разговор.
