Развитието на изкуствения интелект ни изправя пред невиждана, всеобхватна социална трансформация. Докато неглижираме напредъка в тази сфера, големите компании инвестират в мултимилиардни проекти, чрез които машините могат да заменят 1/3 от работните места на планетата в близкото бъдеще. При това без да се раждат нови професии, както е било винаги досега. Да, технологичният напредък в тази област понякога изглежда като научна фантастика, само че той вече е тук, както ще стане ясно от разговора с днешния ни дигитален гост.

Петър Петров се занимава професионално с въвеждането на изкуствения интелект в практиката. Той е начело на ИИ екипа в Eleven VC – фонда, обединяващ някои от най-обещаващите български стартъп компании, сред които е и първият български еднорог – Payhawk. Неотдавна излезе първата му книга – „Изкуствен интелект: душа и силиций“.

Как да счупим клишетата и да започнем важния диалог за бъдещето, именно разговора, заради който съществува и този сайт? Как да се подготвим за непосредственото бъдеще, в което изкуственият интелект променя толкова много области от живота и ни изправя пред немислими доскоро предизвикателства?

снимки: Добрин Кашавелов

– Казваш, че част от работата ти е да говориш за социалната трансформация, която идва с изкуствения интелект. Това е и моята кауза. Кои според теб са най-важните аспекти на тази промяна?

– Най-очевидна е загубата на работни места, но има и други аспекти и опасности.
Ако ИИ ни надмине като капацитет, е много важно дали ще развие и прояви съзнание. От това може да зависи дали ще го контролираме, или ще поеме по собствен път.

Друг аспект са многото промени в образованието – дали има смисъл от него?

Ако нямаш работа, но и няма друга работа, която да можеш да научиш и да работиш, за какво ти е образованието?

Явно няма да е професионално, а ще бъде личностно – как да възприемаш нещата, които се случват. Как да си добре, как да се грижиш за здравето си – все неща, които не са свързани с работния процес. Оттам можем да говорим за други изменения, примерно в медицината, които да подобрят живота ни.

Може да има социални изменения в това как живеем – че вече няма да сме заобиколени само от хора, а и от машини. Дали те ще имат собствени общества? Ще го искаме ли, ще го регулираме ли? Ще можем ли да избираме между места, където са позволени такива машинни общества, или не?

Могат да се случат най-различни промени, които в момента няма как да си представим, но се виждат ясни наченки.

– Наистина загубата на работните места изглежда най-очевидна. Обаче вече минаха почти две години от „ChatGPT момента“, а като че ли още не се вижда този ефект…

– Напротив! Ако гледаме например „съппорта“ – специалистите по технологична поддръжка. Тази професия се стопява!

Колцентровете в момента изчезват като индустрия. Остават едни 5%, които са за по-сложни казуси и с времето също ще бъдат изгладени.

Вече има примери – във Филипините, където тази индустрия беше много силна. Има и напреднали проекти, където се случват феноменални неща с намаляването на времето за реакция, на задоволяване на потребителите, на разрешаване на казуси чрез съппорт.

Това, че един човек не е уволнен, защото се е появил ChatGPT, не значи, че работата не става по-ефективна и това не намалява общо работните места.

Но цялата ефективност неизменно се обръща към по-малко хора и работни места и по-ефективни бизнеси.

Напоследък има постоянни вълни от уволнения в технологичния свят и част от причините действително са, че моделите стават по-ефективни.

снимки: Добрин Кашавелов

– Повечето хора в сектора казват, че по-скоро има икономически причини, рано е това да са последствията от изкуствен интелект. Но аз също го виждам в работата си, колко по-ефективен ме правят като програмист системите с изкуствен интелект.

– Със сигурност! Ето, появата на платформа като Devin. Цитират, че

13,9% от задачите на един софтуерен екип се приключват успешно абсолютно автономно.

Но ако направим разбор на ситуацията, друга част от задачите са приключени на 80%, на 60%, на 40%. Има куп задачи, които донякъде са изпълнени, но те също съставят някакъв обем полезна работа. Освен това има и задачи, които са приключени не автономно, а с помощта на човек. И като събереш всичките ползотворно извършени дейности и се окаже, че системата извършва около 30% от общата работа… това е изключително мащабно за индустрията.

Кажи ми, че няма да има уволнени хора при 30% съкратени усилия!

– Още повече в индустрия, която основно е свързана със стойността на труда.

– Това е много близкото бъдеще. Компанията, разработила Devin, е създадена 3-4 месеца по-рано и са изкарали продукта. Представи си за още 3, няма ли да го подобрят още? Общият принос бързо може да скочи до 45%, а това би значело, че почти половината от програмистите вече не са необходими.

В същото време е много логично това да се случи, защото

професиите, които по-скоро биха изчезнали или биха били заменени, са тези, за които има данни, които можеш да вземеш, да структурираш, да обработиш и да захраниш модела.

Програмирането е точно такава професия, защото всичко, което правиш, е ясно отразено във файловете, в промените, в резултата дали софтуерът работи. В по-сериозния софтуер има таскове, QA специалисти, трупаш всички нужни данни и можеш да тренираш модела.

Може би още няма много изгубени работни места, но виждаме как се разгръща този процес на заместване. Всички се опитват да систематизират данните от една професия и когато го направят, вече има модел, който работи. Да,

сигурно няма да те замести напълно, но ако днес са нужни 10 човека, вече ще са нужни двама, за да правят същото.

снимки: Добрин Кашавелов

– Както каза един мой гост, парадигмата се обръща в почти всички задачи – ние, хората, ставаме възложител и контрольор, защото моделът допуска грешки, но той става основният извършител на дадена задача.

– Аз го наричам нов вид мениджмънт. Като дизайнери, които са обичали да рисуват и да създават, а сега са възложители и стават мениджъри на ИИ. Ако правиш игри, си мениджър, ИИ го създава, а ти трябва само да провериш, да доизчистиш, но голяма част от творческия процес вече може да го правиш с различни инструменти.

Не е нужно ИИ да извършва 100% от работата ни, за да стигнем до изключително голямо заместване на труда.

– С доста хора си говоря по темата, но за повечето от нас е някак абстрактно. Докато работата ти е точно да въвеждаш такъв тип практики в реално работещи стартъпи. Разкажи ми за някакви интересни приложения, за успешно въведени процеси.

– Истината е, че е много трудно да се въведе ИИ в процесите. Когато започнах работа в Eleven, си представях, че няма да мога да смогна. Че ще има толкова много компании, всяка ще действа паралелно със своите процеси за внедряване на изкуствен интелект. Изведнъж се оказа, че това е много далеч от истината, защото не могат или не искат по най-различни причини.

Една от тях е, че изисква пари, а стартъпите нямат особено гъвкав бюджет, обикновено планират за около година. Ако им кажеш, че може да се направи някаква ИИ интеграция, която е малко по-сериозна, малко по-стратегическа, се оказва, че не могат да си го позволят, защото не е бюджетирано предварително. В бъдеще, знаем вече, че това трябва да се бюджетира, но тези, които в миналото са взели пари, не са предвидили бързите промени с генеративния ИИ.

снимки: Добрин Кашавелов

– Но пък целта е такива нововъведения да спестяват ресурси в перспектива…

– Така е, но проблемът е, че първо трябва да инвестираш. Не е само пари, обучения на хора, промяна в нагласата, заделяне на време, приоритизация. Един куп са нещата, които трябва да вложиш в началото, докато още нямаш никакви ползи.

С времето тази цена ще намалява, а ползите ще започнат да се увеличават, когато машините се смажат, данните се свържат, хората са обучени и започнат да ползват правилните инструменти. Всичко това в един момент се обръща, но въпросът е, че тази дупка между момента, в който заделиш ресурсите, и този, в който вече имаш ползите, е голяма – от няколко месеца до година, което за стартъпите е критично много.

В момента опитваме всички стартъпи, които тепърва търсят финансиране, да имат бюджетирано, че ще им трябват пари за изкуствен интелект, усилие, време и фокус.

– Може би е минус и че, както казваш, се изисква година за въвеждане, а нещата са толкова динамични, че новите модели излизат буквално всяка седмица.

– Това е отделен проблем. Решаваш, че ще правиш нещо, започваш го, а междувременно излиза нещо обновено от това, което си решил да имплементираш.

Но да кажем, че не е чак толкова фатално, можеш да си продължиш с това, което си започнал. Веднъж ако го направиш, ако влезе в процесите на компанията, цената да го замениш ще е по-ниска. Да обучиш хората, да решат да го ползват, да не ги е страх, не е малко.

снимки: Добрин Кашавелов

– Освен в техническата поддръжка, кои са конкретните приложения, за които вече сме там и са готови за такъв тип интеграция?

– Повечето не са универсални. Съппортът е много интересна пресечна точка между нещо, което е универсално за всички, има данни за него, може да се случи, независимо на какъв език, и има полза.

Много от нещата, които се имплементират, са конкретно за това, което правиш и се разработва индивидуално решение.

Имаш някаква система, правиш инвентаризация какви данни генерира, какви събира, какви излизат. Какви данни можеш да вземеш, да купиш, да свържеш, да обогатиш.

И когато ги имаш, си правиш списък какви неща можеш да създадеш и какви функционалности с изкуствен интелект да въведеш.

– Както ми каза Петър Цанков от LatticeFlow, вече и компании, поставящи паркет, могат да ползват такива системи… А според теб ще се появят ли нови професии? Защото досега винаги, когато се наложи някаква иновация, изчезват работни места, но и се появяват нови, които балансират пазара на труда.

– Да,

има нови професии, но те са много малко и според мен няма как да станат повече.

Скептично гледам към мненията, които съпоставят загубата на работни места с появата на нови. Тогава обръщам внимание на количеството – колко ще се загубят и колко ще се появят? Има нови позиции, но се броят на пръсти. Това са хората, които създават изкуствения интелект на първо място. Такива, които стратегически мислят за имплементирането му. Онези, които директно се занимават с ползването му. И не се сещам за други. Което съвсем не се равнява на броя на тези, които изглежда, че биха загубили работата си в близкото бъдеще.

Направих една груба сметка, която беше свързана със суперкомпютърът Stargate – проект за $100 милиарда, който OpenAI и Microsoft обявиха, че е в процес на изграждане. В пълния му капацитет

би следвало да замени 250 милиона работни места!

снимки: Добрин Кашавелов

Ако си представим, че Microsoft няма да са единствените, които ще направят такъв център, а и други компании, излиза, че може да стигнем до приблизително един милиард работни места. Извършват ли се от компютри, означава, че не се извършват от хората. Ако сме 8 милиарда на света, а грубо работните места са към 3 милиарда, излиза, че

една трета от всички работни места се планира да бъдат извършвани чрез суперкомпютри и ИИ.

Можем да гадаем дали не са се объркали, Microsoft и OpenAI да дадат $100 милиарда, а всъщност изкуственият интелект да не може да извършва тази работа. Не ми се вярва. Напротив, те знаят неща, които ние не знаем. Те разработват в лабораториите си проекти, които ние още не сме видели.

Чакаме да излезе GPT-5 всеки момент. Има много сигнали, че генералният ИИ всъщност е постигнат – да, само спекулации, естествено, никой не може да каже нищо конкретно извън вратите на OpenAI. Но поне по индикациите, които виждам, ИИ ще се развива в широчина и дълбочина, което личи по огромните инвестиции. А това означава, че ще има огромни, чудовищни замествания на работни места.

– Мен ме плаши и това, че отново подобни разработки се концентрират в няколко големи компании. Като че ли не сме си научили урока от досегашното развитие на технологиите с няколко огромни гиганта…

– Безспорно е така, при това повече от всякога. И това носи своите проблеми, хич не ми харесва. Дори фактът, че OpenAI имат някакви възгледи за това какво е позволено и какво не е. Какво ChatGPT ще ти отговори и какво няма, къде отговорът ще бъде омекотен или изкривен, това вече е притеснително. Най-малкото техните възгледи за живота може да не са като моите, а нямаме възможност за корекция. Има много дразнещи моменти. Например една учителка от Египет се беше оплакала, че не ѝ позволява да дискутира изобщо Корана.

Цялата тази власт и това решенията да се взимат от една централизирана система, която се управлява от шепа хора… не е добре.

снимки: Добрин Кашавелов

– Видяхме го и по „сериала“ в OpenAI, беше показателен за нивото, на което се вземат решенията. Но много хора казват, че всяка технология минава през бум и зима. Може ли да има зима и при изкуствения интелект? Или просто се опитваме да вкараме всичко в предишни рамки, което не винаги е правилно…

– Аз съм завършил финанси и едно от основните правила във финансовите инвестиции е, че

миналото не е индикация за бъдещето.

Ако инвестираш, защото нещо в миналото е било успешно, това не значи, че в бъдеще ще имаш подобна възвръщаемост. И това е едно от първите правила, които трябва да научиш.

Аз избягвам да разсъждавам по този начин. ИИ сам по себе си е имал своите зими, имало е моменти, когато са се отказвали и са казвали: „Няма как да стане“. „Нямаме такъв метод“ или „знаем метода, обаче ни трябва такава нечовешка изчислителна мощ, каквато няма да имаме за десетилетия“.

Но ето че десетилетия минаха, вече я има и то работи. Дали ще има друга зима? За да кажем, трябва да дискутираме има ли задържащи фактори. Има ли шум, който е по-голям от практичната полза. Ползата в продуктивността е безспорна. И ако нещо е типично за ситуацията, или поне в моите възгледи, е, че

за ИИ не се говори достатъчно, за влиянието, което има. Това е точно обратното на балон,

при него много се говори, но няма ползи, а в случая смятам, че промените са много по-големи, отколкото се обсъждат. Мисля, че няма да има зима.

От гледна точка на технологиите работата ми е да следя какво се случва всеки ден и да пиша на тази тема. Виждам какво излиза от лабораториите, какви проекти се представят и скоростта, с която се измислят нови неща и излизат научни статии е изумителна. Нищо не ми подсказва, че ще има технологичен стоп.

В моята презентация има един слайд, в който са

всички задържащи фактори, пред които сме изправени – регулации, липса на данни, недостиг на специалисти, които да развиват ИИ и да го интегрират. Но нито един от тях към момента не е непреодолим.

Например, може да се говори за енергията. Хубаво, ама последната генерация на чиповете на Nvidia са 30 пъти по-мощни и едновременно с това 25 пъти по-ефективни енергийно. Ами ако има още една генерация чипове, които са още 25 пъти по-ефективни? Коренно се променя балансът, изведнъж се оказва, че задържащият фактор няма да бъде електричеството. А още една генерация?

Много хора казват, че с големи езикови модели няма да се постигне генерален ИИ. Добре, ще бъде с други технологии. Но къде са доказателствата, че е невъзможно? Има много ъгли, под които може да се заходи и да се постигне нещо, близко до генерален интелект. Дори да не е в абсолютния му вид, но нещо, което е значително по-широкообхватно в извършването на действия. Изобщо не говорим за самосъзнание.

Да, катаклизми могат да станат. Война между Китай и Тайван, би спряла единствената компания, която реално произвежда чиповете за ИИ – TSMC. Това е нещо, което със сигурност е възможно да се случи. Но за момента не виждам как може да има зима.

– Казваш, че подценяваме и не си говорим достатъчно за трансформацията. Абсолютно съм съгласен, затова го има и този сайт. Ясно е, че с теб сме сигурни в това, но как да убедим останалите хора, които под моите теми пишат коментари, че ги занимавам с глупости и измишльотини?

– С много публичност, разговори, дискусии, информираност. За момента

навсякъде върви разпокъсана, частична, неясна информация за това какво се случва.

Което е причината и аз да напиша книга – точно такова обяснение какво е ИИ, защо сега се случва, от какво е произлязло, накъде отива. Какви ще са последствията и защо ще ги има? Систематичен поглед към цялата тема. Така, ако прочетеш тази книга, ще ти станат ясни много неща и ще си дадеш сметка. За мен това е пътят – систематичен, организиран, цялостен подход, а не някакви парчета информация да се хвърлят за няколко минути в интервю по радиото, да се мелят едни и същи въпроси и просто не стига времето някой да разбере концепцията. Това е сложна тема и ако искаш обществото да я разбере, трябва да вложиш нужните ресурси – време, пари и обучение.

снимки: Добрин Кашавелов

– Точно това се опитвам да правя на този сайт, давайки различни гледни точки към темата. Нарочно и текстовете ми са дълги, което със сигурност отказва много читатели.

Кои са следващите големи стъпки, които нямаш търпение да бъдат извървени в света на изкуствения интелект?

– Аз не съм нетърпелив. Мисля, че вече има много вълнуващи технологии, но можем много добре да си живеем и без тях. Не търся и не чакам някакви грандиозни промени, въпреки че те идват непрекъснато. Няма нещо, което да очаквам с нетърпение, освен едно – да можем да преборим някакви тежки диагнози в медицината. Да победим рака например. Всичко друго, свързано с продуктивност, с това даден процес да става по-бързо и точно, е супер, но не знам дали си струва цената, която ще платим.

– Още повече, че вече имаме такива технологии, които още не сме се научили как да използваме.

– Тук е важна и гледната точка на хората от третия свят. При нас много неща са уредени – вода, електричество, подслон. Ако пък имаш и хубава работа, получаваш такива луксове, каквито светът не е виждал до момента. Всякаква храна от всеки край на света, продукти, доставки, глезотии, технологии, забавления…

Но има хора, които не живеят така – някои нямат интернет, не могат да си позволят смартфони. Има хора, които нямат вода! Там има голям потенциал за подобряване на човешкия живот, но, за съжаление, няма потенциал за печалби и това намалява интереса.

– Бил Гейтс, още когато излезе ChatGPT, каза, че това е революция именно защото ще ни помогне да подобрим здравеопазването и образованието на 1/3 от света, която никога не е имала достъп до тях. Но пак, уви, опираме до печалбата…

Преди да се разделим, ми се ще да те попитам още нещо. Какво според теб трябва да правим, за да сме спокойни, че след десет години ще имаме работа? Ще сме адекватни на трудовия пазар….

– Регулация. Само регулация.

– Възможно ли е изобщо? Тя е субективна, може да забави прогреса…

– Това именно е регулацията. Тя трябва да стъпи на едно глобално съгласие, че има сериозни опасности, които могат да се появят и ние не ги искаме.

Докато няма глобално съгласие, всеки ще се бори за собствената си позиция.

снимки: Добрин Кашавелов

– Но глобално какво сме постигнали дотук? За едното ядрено оръжие не можем да се разберем 80 години.

– Разбрали сме се май.

– Но стоят оръжия, които във всеки момент могат да доведат апокалипсис.

– Да, но не се използват. Може би и моделите изкуствен интелект ще стоят, ще има лаборатории, където ги ползват. Но ако не се стигне до нещо, което ще поеме контрола и ще излезе извън ограниченията, тогава с правилната нагласа и регулация хората ще живеят добре. Това според мен е единственият път.

Докато няма регулация, всеки е сам за себе си. Но това е трудна задача и още не е узряла като концепция сред обществото, защото то не е образовано. Често регулацията се случва, когато стане фал, тогава много бързо се задвижват, както стана с ковид

– Пак като с ядрената бомба.

– Да, така е. В Европа сме тръгнали в правилната посока. Проблемът е, че това не е глобално, което означава, че ние забавяме технологичния прогрес в името на по-качествен живот. Обаче така икономиката ни ще страда спрямо САЩ и Китай и го правим с пълното съзнание. Смятам, че най-важното в момента е на хората да им бъде обяснено за какво става дума по разбираем начин…