Може ли махалото на когнитивния упадък, на предоверяването на технологиите, на счупения обществен разговор да се обърне и как? Ще сблъскаме оптимистичната и песимистичната гледни точки към най-големия въпрос, заради който го има този сайт.
Проф. Юлита Василева е изследовател в областта на компютърните науки и на взаимодействието ни с технологиите. Срещнахме се преди 5 години, за да поговорим за балона на филтрите, за начина, по който си взаимодействаме и се информираме онлайн.
Днес тя изследва една също толкова важна и още по-гореща тема – можем ли да обърнем техниките за манипулиране онлайн срещу техните създатели? Можем ли и как да спрем когнитивния упадък, който идва с огромния напредък на изкуствения интелект?
– Днес се занимаваш с изследване на „когнитивните щитове“, подход, с който да успеем да съхраним човешкото знание на фона на изключително напредналия изкуствен интелект. Кое те отведе в тази посока?
– Днес прекалено много неща стават по-лесно, включително и в науката, примерно да направиш един литературен обзор. Когато не знаеш откъде да започнеш, пускаш ChatGPT, Claude, Gemini. Има вече толкова много модели, че човек се чуди кое да избере.Всеки от тях ще ти направи резюме на статията, че да няма нужда да се трудиш да я четеш и разбереш. Това вече върши много добра работа, защото ще ти даде начални точки, и то сравнително скорошни. Но доколко резюмето е хванало всички идеи от статията, не е ясно. Когато човек чете статия няколко пъти, всеки път нови идеи изскачат, пропуснати предишния. Зависи в какво състояние четеш статията, какво те вълнува в момента. Живият мозък интерпретира, а не само резюмира.
Друг проблем е, че вече никой не чете научните статии отпреди 20 години, а това всъщност е огромен проблем, защото в някои статии отпреди 20, 30, 50 години има идеи, които не са били експлоатирани, на които просто не им е било времето, а сега бихме могли да използваме. Обаче сега няма кой да ги открие, защото никой не чете, а всеки вече използва изкуствения интелект.
– А може би все по-големият проблем е, че ИИ според все повече изследвания вече сам отговаря за по-голяма част от научните публикации?
– Точно така, лошото е, че когато правиш литературен обзор толкова лесно, хората правят нови обзори на конвейер. Ако списанието има сериозен рецензент, ще каже: „Добре, каква е критиката?“. Не е въпросът само да събереш 20 статии и горе-долу да ги категоризираш, а да подходиш критично и да кажеш какви са новите тенденции, какво липсва. Това нещо ИИ не го прави много добре.
Обаче хората скалъпват статиите, изпращат ги на списания и ако попаднат на двама несъзнателни рецензенти, приемат статията и по този начин конвейерните обзори се множат и „замърсяват околната среда“.
Страхотно много плява се генерира. Често обаче е с атрактивно заглавие
и когато някой търси дадена тема, ChatGPT я намира, авторът я цитира и колелото се завърта..
А много от студентите изобщо не четат статиите, най-много да прочетат резюмето. А то пропуска много неща. Всяко резюме е просто една абстракция. И много интересни детайли, които човешки мозък, ако ги чете, по някаква асоциация, по настроението на деня, по това, че го боли коремът, ги хваща. Докато ИИ не може да ги хване, защото работи изцяло на формално, езиково ниво.
Много неща се губят, много неща изчезват на дъното и само това, което плува по повърхността, ще бъде обрано.
– Уви, не е само в науката, същото според мен става навсякъде: в медиите, в цялото информационно пространство. Как обаче можем да спрем този когнитивен упадък? Днес като че ли изглежда необратим.
– Точно така е. Именно затова предложих тема за разработка, която ми одобриха и финансираха за следващите пет години. Ще се опитаме да направим „когнитивни щитове“. Аз не съм специалист по разработването на алгоритми и смятам, че това е работа, която вече много трудно се прави в университети. Тя отиде в големите компании, защото имат ресурсите и събират най-умните. Те имат много пари, а сега вече е необходимо да имаш изчислителна мощност. В тази област университетите сме доста назад.
– Все пак, големите изследователи все още идват от университетите.
– Така е, но това е, защото, когато са правили пробивите си, не са имали толкова голяма нужда от изчислителна мощ. Големите канадски имена в ИИ като Хинтън, Лекун, Бенджио са създали алгоритми и са ги тествали преди 15-20 години в други условия, когато разликата във възможностите на университетските изчислителни системи и комерсиалните не е била толкова фрапираща…
Така или иначе, моята идея е да работя за създаването на щит на ниво интерфейс – диалога или връзката между човека и компютъра. Работя повече от 10 години в областта на технологиите за убеждаване, за които стана дума при предишния ни разговор.
Тези технологии са много опасни, защото действително влияят много силно.
Хората са изключително лесни за манипулиране. И аз си мисля – дали пък не можем да ги „манипулираме“ така, че да се загрижат, да обърнат внимание и да се разтревожат, че ИИ ги лъже и ги манипулира?!
И да погледнат в дълбочина, да вложат тия няколко килобайта в мозъка си, да ги инвестират и да подходят внимателно към това, което им дава ИИ.
– Как да стане? През какви медиуми най-вече ми е въпросът, защото аз опитвам да го правя това вече 5 години и не стигам достатъчно масово до хората, защото социалните мрежи . използват технологии на убеждение толкова ефективно.
– Аз мисля, че нещата ще тръгнат нататък. Че
хората вече имат много голямо недоверие към социалните мрежи и особено Фейсбук.
Мисля, че тенденцията в социалните мрежи е да се хибридизират с ИИ. Нови ИИ технологии като агентния ИИ и OpenClаw ще въведат нови изкуствени персони в мрежите и хората няма да знаят дали говорят с реални хора или ИИ агенти. От една страна това ще е много удобно: всеки може да си „наеме“ ИИ агент да го представлява в мрежата, да следи какво става и да го информира за най-важното, да отговаря на тривиални неща, да праща поздравления за имени и рождени дни и т.н. Но когато това стане масово явление, всичко става неистинско. Основната причина да си „в мрежата“, да си в контакт с познати и приятели, отпада.
ИИ агентите, които навлизат, предлагат много удобства. Хората са склонни да „очовечават“ нещата: да откриват съзнание в домашните си любимци, дори в неодушевени предмети. Има изследвания, които показват, че хората възприемат чатботовете като съзнателни, дори остроумни и емпатични други хора. Лошото е, че хората все повече и повече се ориентират към ИИ като партньори и спират да общуват с истински хора. Защото ИИ е много по-убедителен, просто се съгласява с каквото кажеш, усмихва се и казва: „Добре“. Което е приятно, ласкаещо, успокояващо. Повечето от хората всъщност не обичат да се карат .
– Макар да не им личи онлайн… Още повече, че вече социалните мрежи ни познават по-добре от самите нас. Защото оставяме гигабайти информация, общувайки с тях, а вече и с ИИ. Как тогава можем да изградим ефективни щитове, след като всичко е в ръцете на „врага“?
– Това е много голям проблем и той не е нов. Още преди да стигнем до социалните мрежи, когато се появи интернет, започнаха изследванията в областта на защитата на информацията. Има и закони, които карат големите компании да позволяват избор на потребителите – досадните cookie банери. Хората, които не искат да бъдат манипулирани и водени за носа, слагат бариери. Те проверяват настройките за сигурност и т.н.
Така че, според мен, промяната ще започне от хората, които се тревожат за такива неща. Които имат някакви съображения за автономност и не искат да бъдат манипулирани.
Как масово ще го въведем? Аз се надявам, че ще стане чрез образованието и училищата.
Не знам как е в България, но в Канада, в няколко провинции, и много силно в Скандинавия, забраняват телефоните в училище.
Според мен има голяма промяна в нагласата. Все повече се пише за това колко са вредни социалните мрежи за развитието на подрастващите, за това как децата изпадат в депресия, когато стигнат тийнейджърски години, защото от бебета са започнали с таблети и просто не познават нормално човешко общуване.
Мисля, че тази вълна на телефоните и социалните мрежи скоро ще се обърне. Вече доста време съм живяла и ми се струва, че всичко върви като махало или синусоида. Ще дойдем в обратната тенденция.
– Темата за децата и технологиите именно е огромна, тук също се опитах да започна разговор с дълга поредица, но… стигаме до самосъзнанието, което може да задвижи някаква промяна и не го забелязвам.
А и дали наистина сме виждали дотук толкова силно тази обратна тенденция? Да, винаги е имало хора като Тристан Харис, Ким Дотком, Асандж, които се борят срещу начина, по който ни манипулират с помощта на технологиите.
– Те не са единици.
– Но през цялото време са видимо малцинство.
– Така е, но, вижте, то е като модата. Модата е също такова социално явление. Тя върви, винаги започва от малко хора, които дават началото, тези инфлуенсъри, новатори, по които останалите се водят. Но не всички изведнъж. Просто започва отгоре, после се спуска надолу и когато стигне дотам масово да бъде възприета, върховете горе, тези примери вече са в подножието на друга вълна.
Винаги има едно закъснение в тези вълни и това как се разпространяват. Надявам се, че така ще бъде и тук.
– И аз, но не го вярвам. Моята единствена надежда е икономическа и то е силно казано, защото би забавила опасните тенденции в технологията, но би нанесла огромни щети на индустрията. Идеята, че в един момент тези огромни пари, които се наливат в изкуствения интелект, просто няма да могат да се възвърнат.
– Може и това да стане. Но вижте „Дотком балона“. Той се спука, обаче технологиите останаха. И след това, полека-лека, просто имаше едно закъснение от 4-5 години и се върнаха. И отново стана печеливш. Отпадна „плявата“, останаха сериозните компании.
Технологията няма да изчезне. Защо? Защото тя разчита на мързела на хората.
Може да звучи цинично, но според мен човешкият мързел винаги е бил в основата на прогреса. Хората искат да си минимизират усилията. Ние сме свикнали да търсим как да намалим усилията, с които да постигнем каквото и да било. Затова ИИ навлиза масово и в университетите, което за мен лично е голяма тревога.
Не знам как е в България, но имам чувството, че по света вече преподавателите са приели, че студентите използват ИИ да си пишат домашните, а също и скришом на изпитите. Просто няма как да се предотврати това. Особено с новите OpenClaw технологии, в които ИИ модели работят локално, в лаптопа, а в близко бъдеще и в телефона.Няма нужда да си свързан с интернет и голям комерсиален модел. Те стават и все по евтини и достъпни чрез платформи като Ollama.
В България поне има устни изпити – във ФМИ все още тези огромни потоци от студенти по 3 дена ги изпитват устно. Това в Америка е нечувано. От 30-40 години, от хората, които аз познавам там, никой не си спомня да е бил на устен изпит, защото е нещо много стресово. Също в училище това да те изпитат „на дъската“ пред класа е нечувано. А беше ежедневие в училище за моето поколение.
Но това е единственото спасение от ИИ в момента.
Или ако е писмен изпит, на хартия. Аз така съм учила програмиране, не съм се допряла до компютър. Когато бях студентка, имахме големи машини, на които на перфокарти се печатаха програмите, ред по ред. Траеше няколко дни, докато ти излезе листинг от изчислителния център със съобщение „синтактична грешка в ред 18“.
– Това ли е бъдещето?
– Да.
Бъдещето е обратно в миналото.
– Но как ще можем да се убеждаваме един друг в това? Защото наистина обичаме да ни е лесно, мързеливи сме. Свикваме да делегираме, че поредната задача няма нужда да я вършим сами, може да не полагаме този труд. Логиката е поради всичко това и дипломите да имат все по-малка реална стойност.
– Точно така е. Дайте да погледнем към тази тема специално, за образованието.
Моята специалност е приложен ИИ, в тази посока ми беше още докторската дисертация. Но ИИ, който правехме тогава, беше друг. не беше базиран на невронни мрежи а беше символичен ИИ,
Невронните мрежи тогава бяха разработвани от инженерите и ги ползваха да регулират цикъла на пералнята.
Учените, разработващи изкуствения интелект, се стремяха да прехвърлят знанията от човека на машината. Опитваха се да представят абстрактни конструкции на човешкото съзнание в паметта на компютъра и да разработят алгоритми, които оперират с тези конструкции чрез логически операции. Това е много по-високо когнитивно ниво от нивото на невроните. Въобще не мислехме, че с машинно самообучение на невронно ниво такива абстрактни, съзнателни или концептуални знания могат да са изградени автоматично от системата. А се оказа, че това е правилният път.
– Ето че Ян Лекун и досега казва, че не е това пътят към генералния изкуствени интелект и че трябва и да се върнем назад, към това прехвърляне на знанията.
– Защото това е начин да го контролираме, иначе машината учи каквото си пожелае. Остава си стохастичен модел и това, което научи, може да е много вредно, много опасно. Това е темата за отговорен ИИ, голяма тема, която на Запад е много силна сега. Там се включват социалните науки, философи, етици, прависти. И е една надежда за тези хуманитарни дисциплини, които изведнъж намират изключително важен проблем, който могат да атакуват със своите методи.
– И как да подходим с образованието? Съвсем трябва да забраним ИИ?
– Не, това е невъзможно.
Просто няма нужда да контролираме крайния продукт, а процеса.
В Канада и в Америка е нормално да дадеш на студентите 5-6 проекта, които правят вкъщи и след една седмица предават. Може да са задачи по програмиране, есета по английски, анализ на данни. Правят го вкъщи и предават крайния резултат за оценка. Е, в това вече няма смисъл.
Не гледаш крайния резултат изобщо, защото той е генериран от ИИ. Караш студента да каже какъв ИИ е използвал, какви промптове е давал, как критично е анализирал, какво мисли за отговора на ИИ, дали е използвал друг ИИ за критика. Как интерпретира критиката, какво е неговото мнение. Тоест да докаже, че критично е подходил към отговора, което ИИ е дал.
Най-тъпото нещо, от което студентът нищо не научава, е да даде заданието на ИИ, получава готово решение, което, без нито едно „помръдване на мозъка“, копира и изпраща.
На моите студенти им казвам: „Знам, че ще използвате ИИ, но преди това помислете сами какво решение можете да измислите на този проблем. Когато вече имаш някаква идея и получиш решението на ИИ, си в много по-добра позиция да го критикуваш и оцениш, отколкото, ако изобщо не си мислил по въпроса. Така го и запомняш по-добре“.
– А може би пък няма смисъл да си го причиняваме, защото наистина вече е по-добър от нас във всяко следващо нещо. Мен, признавам, ме отчайват резултатите от този експеримент, в който хората не различават моето собствено писане. Сдавахме, сдавахме, бяхме по-добри на шах, но ИИ ни би на това, и на тетрис, на всичко. Пишехме по-добре, по-креативно, по-добре стилово, дотук. Пишехме код, ИИ не можеше. А сега и това прави добре. Може би няма смисъл да си причиняваме толкова трудности и може просто да си почиваме?
– Да, обаче кой ще ни храни?
– Достатъчно сме напреднали със земеделието, не е трудно да се изхранваме, ако подходим мъдро. Ето, и роботиката напредва успоредно – скоро за първи път андроид ни победи на маратон в Китай. Защо да се трудим?
– Защото ще закърнеем. То е като с гимнастиката – когато не играеш, когато не ходиш, се разболяваш.
Това е – ние сме биологични същества и трябва да се напъваме. Аз лично смятам, че нищо лесно научено не се запомня.
Имахме такъв проект с наши студенти за програмиране от трети и четвърти курс и им дадохме една задача да решат от типа, който дават често на интервюта за работа.
Имахме две сесии по един час в лаборатория, за да сме сигурни, че не използват ИИ. Разделихме ги, като едната група използваха ИИ по свой избор, другите трябваше да се справят сами. След две седмици отново ги извикахме, този път да опитат всички без ИИ.
Беше малка група, нямахме статистически стабилни резултати, обаче и без това се вижда ясно, че мнозинството от хората от първата група бяха пълен провал. Те са видели решението на ИИ, но не могат да го възпроизведат две седмици по-късно.
– Всички сме така. А може би не им и трябва. Аз съм програмист, който последната половин година почти не е писал код и усещам как си забравям знанията. И като че ли за момента не губя, защото все по-малка нужда има и да го пиша, и да го чета този код. Също както не знам Асемблер.
– Но ето че казваме „пише код“. Аз мисля, че образованието по компютърни науки трябва да се промени.
Да не мъчим студентите да пишат код, а да ги научим да решават задачи.
Какъв подход ще използват да пишат алгоритма? Да, него също може ИИ да го направи. Ако му дадеш задача за алгоритъм, ще ти я реши. Не знам дали е много добър за това все още, INSAIT казваха, че за решаване на математически задачи за олимпиади точността е някъде 60%.
– Обаче, както и с всичко друго, след няколко седмици може да е 80%, след още няколко – 90%…
– Така е. И как да намерим смисъл? Как да запазим някаква автономност и някаква цел, към която да се стремим? Защото така се обезсмисля всякакво усилие.
– Именно това е най-тежкият въпрос, който не ни е хрумвало, че ще ни засрещне, или поне не толкова скоро. Може ли, както каза един мой гост, това да промени обществото така, че класите на бъдещето да са малцинството, което има концентрацията да прочете цяла книга, и останалите?
– Да. Аз мисля, че точно това ще стане. Университетите ще станат отново елитарни институции, както е било през Средновековието. Когато образованието не е масово, ще бъде страшно скъпо и това ще бъдат деца на много богати хора, които ще могат да си го позволят – да изпратят децата да се занимават, както е с изкуството. Кой може да си позволи да прави изкуство?
– Който не трябва да се изхранва… Има ли неща, които никога няма да ги умее изкуственият интелект? Аз си мислех, че никога няма да умее да пише като мене, ето, че не се получи. Кое ще е това нещо, което ще остане чисто човешко?
– Мисля, че има още доста трикови неща, където роботите дълго време няма да се справят – примерно работата на водопроводчик, електротехник, където задачите са физически, сложни и трябва богато разнообразие от физически дейности. Това е ръчна работа, която все още е трудна за машините. В момента страхотни пари се наливат в роботика, но роботите са силни, когато са в сравнително ограничена среда.
Например, ето тези домашни роботи прахосмукачки работят добре, но невинаги, объркват се.
– И ето, това не ни липсва!
– Именно. Аз мразя да чистя. Ако може някога робот да дойде и да ми избърше праха, да измие прозорците, банята, само ще се радвам.
– Аз си представям, че гледането, възпитаването, обучението на децата е още нещо, което не бива да даваме. И не защото технологията няма да го умее по-добре от нас.
– Точно така! Не бива! Но виждаме как и днес това хората с много голямо удоволствие дават децата си на таблетите да ги забавляват.
Когато електронните детегледачи станат още по-добри, ще е ужасно. Това ще са съвсем други деца…
Аз не знам какво става с тия деца, наистина. Имам млади колеги, които казват, че сами не могат да намерят връзка със студентите, толкова различни са тези поколения.
– И това го направиха технологиите или по-скоро ние с тяхна помощ.
– Да. Защото е много удобно да връчиш на детето някаква игра, клипче, което го забавлява с картинки, с песнички. И то е мирясало, не се движи изобщо, тоест не го мислиш, че ще избяга някъде, ще направи беля. То е абсолютно заковано. Дегенерират му мускулите, не научава как да общува с деца. И когато се види за първи път с деца, изпада в шок, не знае какво да прави.
Много по-кротки са сега студентите, едно време имаше много повече проблемни. Сега проблемът е, че изпадат в паника. В Канада имаме студенти, които на изпита припадат от ужас, от страх.
Тук, в България, говорих с колеги дали имат този проблем. Не, няма го.
– И вероятно причината е в нещо, което повечето хора не харесваме в системата – изпитите. Тук, за да оцелееш в училище, трябва да минат през изпитите в четвърти, в седми клас. Много неприятно изживяване, което да причиниш на 14-годишно дете, обаче явно след това се изплаща по този начин.
– Точно така. Аз помня, в училище беше изключително трудно. Не бях особено ученолюбива като дете, специално за нещата, които бяха важни в училищната възраст. Да пишеш красиво. Ужас! За математиката също, ненавиждах математика. Обичах да чета и това беше голямо удоволствие за мен. Обаче всичко останало беше трудно. Математиката ми хареса чак в пети клас, когато започнахме да учим геометрия и да доказваме теореми, това изведнъж ми стана интересно.
– На мен ми стана интересно на 35.
– Аз пък исках да стана писател. Още в четвърти клас моите съученици смятаха така. Имахме много добра учителка по литература, която ни даваше много свобода и аз пишех криминални съчинения за забавление на класа.
– Вярвам, че това също ни е голям проблем, че слагаме тези стереотипи и специализации – делим се на хуманитарни и на технологични типове, специализираме се в конкретни тесни области. А Хенри Кисинджър например пише, че ще се завърне времето на полиматите – хората, които са комбинирали знания от най-различни области, защото те могат да дадат оригиналните идеи, каквито никога няма да „роди“ ИИ.
– Така е, но хората са много различни. Повечето от моите колеги са толкова фокусирани. Действително, когато работиш в много трудна област, например алгоритмите, ти трябва да си фокусиран. От друга страна, така няма да измислиш никога нещо наистина оригинално.
Ако имаш късмет този тесен, неразклоняващ се път, по който си поел, да води до нещо, в крайна сметка ще го постигнеш. Обаче, посвещавайки живота си на него…, аз лично не мога така, на мен ми става ужасно скучно. През цялата ми кариера съм се лашкала в различни области, защото ми е интересен проблемът, а не техниките, които съм усвоила.
Голяма работа, че съм научила нещо и го владея, интересно е да науча нещо ново, да вляза в област, в която съм новак, отново студент..
– Според мен си струва всички да развиваме в динамичните времена този начин на мислене. От сърце пожелавам да се окажеш права – махалото да се обърне, а когнитивните щитове да спасят познанието. Ще се радвам отново да разкажем за тях при следващата ни среща. Благодаря за интересния разговор!
