Владимир „Каладън“ Петков работи в айти сферата две десетилетия и половина, проследил е отблизо миналото и настоящето на информационните технологии, очаквайки бъдещето.

Дългият му опит е свързан с данните и иновациите. Шест години се занимава с дигитални медии и бизнес развитие като част от екипа на „Икономедиа“. Кариерният му път продължава на лидерска позиция в международната компания A Data Pro, специализирана в обработка и анализ на информация. Днес Каладън, известен с прякора си от култовата поредица „Дюн“, е начело на Identrics – технологична компания, развиваща модели за обработка на информация, базирани на изкуствен интелект.

Вече 6 години с приятеля му Еленко Еленков създават култовия подкаст „Говори ѝнтернет“, който вече е цяла платформа с пъстри по тематика, но обединени от качеството си подкасти. През 2022-а, на ежегодното мащабно събитие на портала dev.bg, Каладън привлече погледите с прелюбопитната тема за етичния изкуствен интелект, водеща нишка за немалко Дигитални истории.

Как подценяването на етичната страна доведе до огромни проблеми, застрашили основите на нашата цивилизация? Какви регулации подготвя ЕС по отношение на изкуствения интелект и могат ли те да забавят бума в тази област? Как идваха различните етапи от развитието на мрежата и какво да очакваме от Web 3.0?

снимки: Добрин Кашавелов

– Защо според теб на нашата програмистка гилдия ѝ е толкова трудно да обяснява на обществото какво се случва с напредъка на технологиите и конкретно в света на изкуствения интелект?

– Има изключения, но според мен софтуерните инженери са хора, които обичат да създават, а не толкова да обясняват как са го направили. През последните 20 години работя с инженери и виждам как се вълнуват, когато се появи нова технология, когато видят нейния потенциал. Но

рядко се питат как това всъщност би повлияло на живота на някой друг.

По-скоро интересното в задачата е нещо да се случи. Колкото по-сложно и иновативно, толкова по-добре.

През последните години все повече виждаме как този подход води до бърза иновация, но много често и до някаква форма на страдание. Особено в сферата на изкуствения интелект, където

големи компании без много мислене, без никаква регулация, прилагат напреднали форми на автоматизация.

Взимат решение и представят технологии, които работят, но не е доизмислено как ще се отразят върху голяма част от хората.

Например, често говорим за алгоритъма на фейсбук, който разрушава тъканта на обществото или гугъл, които от време на време уволняват хора от екипа си по етика, защото излизат и казват, че в съществена част от тези технологии има нередности. Тук цитирам конкретно казуса с Тимнит Гебру.

Инженерите не обичат да обясняват, а хората, които вземат решения, са водени от бизнес цели. Няма я тази култура да се прави етична оценка дали една технология ще бъде използвана и как, на това се гледа като на нещо, което забавя или оскъпява иновацията.

– И все пак, очевидно е дошъл моментът това да се промени. Независимо дали става дума за алгоритмите на социалните мрежи или всички други посоки, в които напредва прословутият изкуствен интелект…

– Всъщност липсата на подобен надзор често даже се разглежда като някаква форма на преимущество. Например в момента ние, в ЕС, сме доста регулирани, като започнем от GDPR и регламента за изкуствения интелект, който се готви. Компаниите, които не са базирани тук, изтъкват, че имат свобода да правят повече неща. Въпросът е дали това е правилният начин. Защото все повече иновациите идват не от някакви малки играчи, а от суперголеми компании, които влияят върху качеството на живот на цялото земно кълбо.

– От теб научих колко е напреднала идеята за етична регулация на изкуствения интелект в ЕС. Тя има ли потенциала да сработи и да въведе ред в толкова сложен и динамичен сектор?

– Тази регулация изтече преди близо година, беше достъпна онлайн, анализираха я юристи, медии, компании. И добре, че изтече, защото така бизнесът има време да се подготви. Друг е въпросът колко ще е практична. ЕС казва, че принципът е определени системи с този тип технологии да бъдат забранени, други да бъдат класифицирани като рискови и в зависимост от риска да има някакъв вид сертификация. Принципът е, че се разглежда рискът, който хората биха имали, ако такава система влезе в практиката.

Тук не се адресира например това, което хората най-често си представят – че някой ще си загуби работата. По-скоро се разглеждат дискриминацията и сегрегацията, които машините, в случай, че не функционират както трябва, биха упражнили върху потребителите.

ЕС не иска да унищожи иновацията и затова не си представя централизиран орган, така разработването на софтуер ще се забави. Ще има организации на национално ниво, които ще отговарят за сертификацията и контрола.

– Доколко обаче това ще сработи? Даваш пример с GDPR, но що се отнася до защитата на личните данни, повечето хора никак не са впечатлени от резултатите…

– Според тази регулация всеки, който не е съвместим с нея, ще бъде глобяван, подобно на GDPR, при това със сериозни пари. Що се отнася до GDPR, има държави, в които е прилаган изключително канонично, но и такива като България, където контролиращият орган не налага лесно глоби.

Въпросът е докъде всяка директива ще може да бъде адаптирана към местното законодателство. Много е вероятно българската държана да случи всичко на документи, очаква се тази агенция да разбира от всякакъв вид ИИ, а това е изключително трудно. Подобни хора са много редки в България и със сигурност не работят на държавни позиции.

– Скоро си правих експерименти с приложения за генериране, за автоматично редактиране, за преразказ на текст. На английски се оказаха изумително добри и съм убеден, че голяма част от текстовете, които четем онлайн, вече са изкуствено генерирани. Защото е по-евтино, а и по-качествено, ако сравня резултатите с нивото на повечето български новинарски сайтове.

– За момента журналистите, колкото и да е странно, според мен не са толкова ентусиазирани, те са по-консервативни по отношение на това кой създава текста и какво пише. Но има цели други браншове, което не са толкова консервативни – ПР и маркетинг. Има много силни инструменти, в които даваш на машината основни опорни точки и тя генерира текст – дали да се опише продукт или блогпост… Маркетинговите хора използват тези инструменти, за да вдигнат производителността, но след това „наглеждат“ крайния резултат, не оставят машината да напише нещо и то да излезе автоматично в блога.

Генерирането на изображения е нещо, което през последните месеци има огромен бум заради приложения като DALL·E, MidJourney. Те работят на много сходен принцип – подава се огромен набор от данни, които са обработени, поставени са етикети. Машината разпознава какво има на всяка картинка и затова после, когато ѝ кажеш: „Нарисувай ми Владо, който яде ябълка“, ако е виждала много владовци, ябълка и как някой яде, може да генерира нещо подобно на това.

– Но, както ти казваш, трудността е да разбере кой Владо търси. И баща ми, и големият ми син също се казват така и за нас е естествено, че сте трима различни хора, но за алгоритъма не е.

– Тук до голяма степен дори не зависи какъв е алгоритъмът, най-важно е кой подготвя данните, с които се обучава машината, и какво ѝ подава.

Предвид това, че

машините са естествено неинтелигентни, те не разбират.

Класическият компютър не идва с инструментите, с които да разбира нашия говор, нашите концепции.

Машината смята много добре, а ние трябва да я учим на останалото. Затова обучението на изкуствен интелект минава през фазата, в която се подготвят данните, на които да бъде трениран.

Ако се върнем пак на регулацията, която се задава, голяма част от изискванията ще бъдат именно към екипите, които подготвят данните, така че те да са възможно най-разнообразни. Мъжете и жените да са почти наравно, да има по-възрастни, хора от малцинствата. И тъй като това трябва да работи за всяка юрисдикция, изкуствените интелекти по някакъв начин трябва да бъдат съобразени спрямо конкретната култура.

Това ще бъде много, много скъпо и сложно и е важно хората, които подготвят регулациите, да го вземат предвид. Ако промените водят до невероятно оскъпяване на технологията и до невъзможност да се реши конкретен, това би убило цялото направление. Трябва да се намери балансът между това да имаме по-етичен ИИ, но и все още да можем бързо да създаваме нови решения, да ги вкарваме в икономиката. Особено сега, по време на рецесията, която се задава.

– Резултатите от тези генеративни модели обаче са направо изумителни. Даже виждаме нещо като стил, творчество, отделните системи дават съвсем различни посоки, което очевидно идва и от данните, на които са обучавани.

– Така е. Тук можем да разгледаме примера, в който един господин участва на конкурс за рисунка и го спечели, а после разкри на журито, че е използвал генеративна мрежа. Стана голям скандал и се отвори разговор етично ли е да използваме машините по този начин.

Гледах с интерес аргументите, които той приложи, и, честно казано, ги припознавам. Той каза: „Да, аз използвам невронни мрежи, които някой друг е направил. Но защо хората, които толкова много държат на човешкото участие, тотално отричат моя принос да обуча машината, да избера данни, да експериментирам, да я настроя?“.

Неговата гледна точка е, че

тази невронна мрежа, която е използвал, е много подобна на четката на художника.

Или на фотоапарата на фотографа. Дали ще снимаш, ще рисуваш, или ще използваш невронна мрежа, това е едно и също.

Нещо повече: невронната мрежа по някакъв начин демократизира, отваря изкуството към хора, които не са прекарали години да се учат да рисуват, нямат тези механични умения. На някои им липсва такава дарба, но за сметка на това имат вкус, идея. Така генеративните мрежи освобождават хората да бъдат по-креативни, като елиминират някакви по-твърди умения.

За мен е възхитително да гледам отстрани как

нещо, което само допреди няколко години беше изключително мистифицирано – изкуственият интелект, в момента се демократизира

до степен, при която може да си го пуснеш на компютъра и да генерираш изображения. Тези неща напредват постоянно, буквално всеки месец има някакъв пробив. Скоро ме поканиха да направя презентация с предсказание за това как ще се развие 10 години напред ИИ и аз отказах…

– Това наистина звучи невъзможно…

– Казах: дайте да пробваме с някаква по-реалистична тема, иначе завиваме към бесен футуризъм. Да кажеш какво ще се случи с технологиите през следващите 5 години е бясна лотария.

– Казваш го на базата на 25 години опит, видял си колко предсказания са отишли на кино.

– Да, включително и мои.

– Какво очакваше да се случва днес, а не позна?

– Аз се занимавам с интернет от 1998 г., фосил съм в много отношения. По това време, в Web 1.0, имаше класически статични сайтове, документи, свързани с линкове, качени в интернет, много малки и бързи. После се появи Web 2.0 и

стана ясно, че всяка версия на мрежата е критика към предишната.

В началото тя беше децентрализирана и това позволи да се случи, нямаше едно място, което да ти разрешава да си пускаш уебсайт. Но това създаде доста хаотична среда.

Затова се появи Web 2.0, уеб базираните приложения позволиха вместо да имаш програма, всичко да е в браузъра – имаш имейл, който се държи като програма, имаш фейсбук. Така стигнахме до свръхцентрализирана система. И сега идва време за web3, както сега го наричат, дори не е Web 3.0. Той е реакция, затова говорим за блокчейн, за крипто, за децентрализирани ресурси.

Преди 15 години не можехме да видим, че web3 ще е реакция към web 2.0. По-скоро си представяхме, че ще е нещо, което ще го надгради по начин, който да позволи т.нар. семантичен уеб.

В момента човечеството създава изключително много съдържание, което стига до нас в html, така е удобно за нас, хората, но е абсолютно нечетимо за машините. Изливаме в интернет много съдържание, а в същото време нямаме инструмент, с който да зададем въпрос на мрежата и да получим отговор. Някога мислехме,че интернет ще заработи като единен, огромен ресурс, ще оживее и цялото знание ще може да се използва.

Най-близкото, което имаме до момента, е гугъл, а той продължава да е търсачка, която работи с индекси, ключови думи и логически оператори.

– Web3 обаче все още изглежда като неясно и абстрактно понятие… От гледна точка на трудните прогнози, подкастът не е ли нещо, което не бихме могли да предположим, че ще се случи като популярен жанр? Четенето изглеждаше като основното занимание в интернет, а то падна първа жертва.

– Подкастът е реакция към Web 2.0. Като формат той е от 2000 г., малко преди това се появиха блоговете, някакви хора решиха, че ще разпространяват блога си като звук на същия принцип. После подкастите бяха умрели за много дълъг период.

Когато дойдоха социалните мрежи, хората се прехвърлиха в изцяло централизираните средства за разпространяване на информация, блоговете и подкастите замряха, докато се стигне до 2015 г., тогава започнаха да се появяват като някаква форма на реакция. При централизирани инструменти като гугъл и фейсбук, има няколко големи компании, които печелят много. Печелят от това, че събират данни за своите потребители и продават реклама. Има много примери, в които такъв вид монопол на рекламния бизнес е много вреден.

– Например за начина, по който се снабдяваме с информация. Докато, в ролята на потребители, все още не си даваме достатъчно сметка за тази тема…

– Но се оказа, че много хора искат и имат време да потребяват медии, стига да не бъдат следени, профилирани, заливани от реклама. Да получат такъв формат, че да може за кратък период от време да научиш нещо ново. И нещо повече: оказа се, че хората имат време за медии, които не изискват докато ги употребяваш, да спазваш някакъв ритуал. Ако гледаш телевизия, ти си фокусиран, по същия начин е ютуб. Подкастите се оказаха чудесни като нещо, което можеш да правиш, докато тичаш, караш кола, пътуваш, имаш половин час, в който искаш да потребяваш нещо пасивно.

Подкастът пасна на духа на времето и доведе до огромна, ангажирана аудитория.

Голяма част от подкастите всъщност са дълги медийни форми, правят съдържание от половин-един час и хората свикнаха. Единствено по време на пандемията това се превърна в проблем – хората не пътуваха и въпреки че имаха много време да стоят вкъщи, вече не избираха да слушат толкова подкасти, правеха други неща.

Снимки: Добрин Кашавелов

– Вече поне 10 души са ме питали защо не правя подкаст, а пиша Дигитални истории. Просто мисля, че има достатъчно силни български подкасти, а аз по-добре умея точно това – да пиша. Дали пък някога ще се върне интересът и към качествено написания, дълъг текст?

– Да, това е другата тенденция, в която ние не сме се забъркали, с нюзлетърите.

Хората развиха навика, който им беше създаден от социалните мрежи, да потребяват създържание само на няколко места.

Много трудно е в момента да стартираш блог и потребителите да си създадат навика регулярно да проверяват какво пишеш. Щом седнат на компютъра, навикът им е да отворят фейсбук, ютуб, туитър, а по-младите – тикток. И това е порталът им за съдържание.

Единственият шанс е да бъдеш представен по някакъв начин вътре. За съжаление, тази култура, при която хората браузваха, вече я няма. По времената на Web 1.0 сайтовете се състезаваха кой ще излезе с по-интересни идеи, дизайн. Тогава се наливаха основите на неща като ползваемост, достъпност, които, за съжаление, днес са позабравени.

В същото време някакви формати на Web 1.0 като подкастите се възраждат. Също и нюзлетърите, които са още по-ранни. Те печелят, защото пасват на точно определен вид потребление. Например нюзлетърът на Бенедикт Евънс – изключително популярен, влиятелен, достига до страшно много хора.

За писането според мен има място, но то трябва до голяма степен да бъде отвоювано

заради днешните навици на потребителите.

– Кое те кара да продължаваш с подкастите? Знам, че имате бизнесмодел, но печалбите със сигурност не са изумителни…

– Това да си имаш собствена медия ми припомня

колко вълнуващо беше да се занимаваш с интернет в началото,

когато гугъл беше само една от търсачките и даже не беше водеща. Подкастите ми дават това вълнение, дават ми възможността да имам нещо свое. Не канал в ютюб, дори да е с някаква голяма аудитория, ставаш зависим от платформата.

Мога да каня каквито искам хора, което е много зареждащо.

Чрез подкастите могат да се изкарват пари, но аудиторията не е толково голяма. Това пък също е хубаво, защото не сме масова медия, а така ангажираността на аудиторията е много висока. Получаваме постоянно обратна връзка, подкрепа, не само в Patreon, а писма, идеи, впечатления. Това би се променило, ако станат по-масови.

Подкастите ми дават свобода, усещам ги като нещо изконно мое.

– Точно така усещам и аз нуждата от писането на Дигитални истории. Като малко дете се радвам на шанса да пиша само каквото искам и намирам за смислено, по начин, по който ми харесва. Пък дано си прав, че четенето си има място, което тепърва ще се отвоюва… Благодаря ти!