Иван Ванков – Gatakka има изключително богат и пъстър опит, дълги години е един от най-популярните блогъри, що се отнася до напредъка на технологиите. С поредиците си от безплатни уроци той помага на мнозина софтуерни специалисти да навлязат в професията. А с огромните си познания и мащабния си поглед към тенденциите той буквално рисува бъдещето.

Цели 4 пъти „IBM шампион“, натрупал опит в машинното самообучение, като програмист, шеф на екип, девопс специалист, блокчейн архитект, днес той е консултант на свободна практика на редица обещаващи начинания.

Какви ще са големите новини, които се задават след големия бум на изкуствения интелект? Как всеки от нас да намери мястото си в новата реалност?

Как напредъкът на машинното самообучение ще промени отношението ни към труда? Как така ChatGPT се оказа изключително успешен психолог? В кои направления моделите скоро ще донесат впечатляващи резултати?

– Имаш богат опит в бранша, кои неща най-много те изненадват в развитието на технологиите?

– Винаги ме изненадва неразбирането на хората как работи технологията. В същината си

това са много прости автоматични системи, които са леко полирани. Обаче хората не разбират какво точно се случва.

Говорим за елементарна обща култура и липса на критично мислене. Силно ги преувеличават, изкривяват ги. Винаги очакват повече, а това са най-обикновени автоматизирани системи. Започват да им делегират все повече и повече, очакват да им помогнат, да им свършат някаква работа много над техническите им възможности.

Това, което винаги ме изненадва, е човешката глупост. Идва нещо, ползваш го, работата ти, професионалното развитие, животът ти зависят от него. Но не си задаваш въпроса как, по дяволите, работи това на елементарно ниво, за да знаеш какво да правиш с него.

снимки: личен архив

– Дали по-скоро проблемът не е, че ние, хората в този бранш, не обясняваме достатъчно добре? Според мен се вдига все по-висока стена между света, където се раждат информационните технологии, и останалата част от обществото…

– Не, не е това. Хората просто не си задават въпроси. Същото е в много други сфери, примерно диетите. Има цели телевизионни канали, огромен бизнес – ядеш марули, минаваш само на месо или без месо. Вариации безброй, няма нещо, което да не са измислили, екстремното гладуване, 20 дни, без да ядат нищо.

А ако човек си зададе простичкия въпрос: „Добре, защо дебелея? Какъв е механизмът?“, ще си отговори лесно. Първо, ще разбере, че няма как да свалиш килограми с физически упражнения. С тях можеш много да подобриш здравето си, но не и да отслабнеш. Има проста сметка – трябват ти 2000 калории на ден и ако взимаш повече, тялото трупа мазнини, иначе ги взима. Намаляваш това, което ядеш наполовина, добавяш малко тренировки и сваляш килограми. За такова критично мислене става дума.

Същото е с технологиите. „Еха, ще слагаме всичко в клауда!“ Добре, де, ами ако клаудът падне?

„Аз съм си направил цялата интеграция!“ Добре, де, ами ако променят нещо вътре? Къде отива тази информация, изтрива ли се? Аз собственик ли съм на тази информация?

Толкова много хора, ако им изтрият Gmail акаунтите, няма да могат да си платят сметките, защото всичко е асоциирано с този имейл. Не може да си плати сметката, да си смени имейла, да си направи нова регистрация, нов мобилен телефон или да си прехвърли партидата. Губи всички данни, снимки, лични неща. Ето, за това говоря.

– Тоест, големият проблем според теб е, че подценяваме факта колко много сме се дигитализирали и колко сме делегирали на компании, които не оценяваме какво могат да направят.

– Абсолютно! Това винаги ме изненадва, то даде бума на социалните медии, на клауда, впоследствие и на SaaS-овете – софтуера като услуга, и на PaaS-овете – платформата като услуга.

Колко хора излизат и казват, че микросървизите, SaaS, PaaS са убиец за бизнеса?

Ако си стартъп, в определени ситуации, са полезни, спор няма. Обаче извън тези идеални случаи са унищожителни за бизнеса. От гледна точка на скрита информация, непредвидени разходи, поддръжка. Просто сложността се изнася от едно място на друго. Липсва елементарно разбиране, анализ на това, което използваш от даден продукт.

И, естествено, компаниите се възползват от това. Ето,

какво ни каза всъщност ChatGPT? Че сме много далеч от изкуствения интелект.

Едва вече може да сметне колко е 7 по 30. Има прекалено много неща, с които не се справя, а са изключително елементарни за човека и очакваш да са по силите на проект с подобен мащаб.

Може да измисли поема, в която всяка строфа започва с „а“, но не и да отговори на елементарния въпрос: дали ако кола се движи по мост и под моста има счупени стъкла, ще си нареже гумите?

– Подобни неща създателите на моделите се опитват да заобикалят. Но, докато успеят… как можем да възпитаме това критично мислене?

– Започва от родителите, от образователната система, това е цялостна държавна политика.

Колко неща не се учат в училище, а са абсолютно необходими? Учи се много фактология, но не и критично мислене,

причинно-следствени връзки, механизми за анализ на информация, абстрактно мислене.

Да, има училища, където се набляга. Но в обществото нищо от това не е издигнато като ценност. Трябва да бъде държавна политика. Ако искаш здраво общество, то трябва да бъде способно на критична мисъл. Но пък

общество, способно на критично мислене, е много трудно за управление.

– Спомена ChatGPT. Изненада ли те големият шум по тази тема?

– Не, той стана нещо вирално, преди се случваха куп други подобни – Покемон, ТикТок, Angry Birds… Това е стара технология, полираха я и я пуснаха. Трансформър моделите, на които се базира ChatGPT, са имитационни. Те не са изкуствен интелект, но много добре го натренираха да имитира човешки интелект. И това позволи точно тези

хора, които нямат критично мислене, да си кажат: „Еха, създадохме изкуствен бог, сега ще може да прави абсолютно всичко, което му кажа.

Ще напише книгата, която винаги съм искал; ще ми даде съвет как да отслабна; ще ми помогне да си намеря партньор; да излекувам някаква болест; да направя пари“. А какво се оказа? Че с имитация не става.

ChatGPT е невероятно добър, ако имаш желание да намериш отговора, той да те поведе, да ти посочи генералната посока, в която да вървиш и сам да стигнеш до отговора. Аз го намирам за изключително полезен, но те продължават да го скопяват. Наскоро излезе един анализ за това какъв е bias-ът (пристрастие – б.а.) и се оказа, че този на ChatGPT е силно вляво, а Llama – силно вдясно. Разбира се, в контекста конкретно на САЩ, в Европа е по-различно, а в Азия тази концепция за ляво и дясно я няма.

– Казваш, че го надценяваме. Но в какви посоки тези модели могат да донесат голяма промяна?

– Те ще станат суперчовеци с тясна специалност.

OpenAI се опитваха да направят генерален модел, който може и знае всичко. Не успяха, затова го разцепиха на 8 – 10 малки модела, но това е много скъпо и не скалира.

Има все повече реални проекти, които носят добавена стойност на компаниите. Но това са малки, тясно специализирани модели, които стават изключително добри в една или няколко сходни задачи.

Там трансформърите блесват много сериозни. Именно това винаги е било машинното самообучение – тренираш го на една задача и той става по-добър от човека. Големите езикови модели просто разширяват комплексността на проблемите, които могат да бъдат решени.

Някои казват: „Добре, ще натренираме 10 000 модела за 10 000 задачи и ще измислим някакъв модел, който да избира кой да се извиква при коя задача“.

Ако човекът успее да измисли подобен контролен слой, както и да го наричаме, ще измисли изкуствения интелект.

Защото в основата на интелекта не е умението да извършиш дадена задача, не е знанието като чиста фактология. „Интелект“ по някои от дефинициите е способността да извадиш абстрактния модел и да го приложиш към друг абстрактен модел, след което да дадеш конкретика.

Докато там няма пробив, единственият шанс трансформърите да бъдат ефективни, е да бъдат тясно специализирани.

– В кои конкретни задачи очакваш успехи?

– В психотерапията например. Направиха се сериозни изследвания в приложението на ChatGPT и се оказа, че рискът е много нисък, а ползите – изключително големи, най-вече заради достъпността и начина, по който комуникираш. Той влиза в твоя режим на разговор и прави много лесно рапорт. Обучен е специално за това с помощта на човешка обратна връзка. Чувстваш се комфортно с него и започваш да споделяш все повече. Като психотерапевт ChatGPT се оказа много ефективен за по-леките състояния, които нямат толкова голяма нужда от професионална намеса.

Мисля, че не трябваше да го спират, защото това наистина помагаше на много хора. Те бързо можеха да разберат има ли проблем, вместо да ходят по терапевти, заради цялата сложност – било организационна, било финансова.

През февруари – март, когато по темата беше тотална лудница, излезе един вътрешен доклад на OpenAI за какво го използват хората. За огромна част ChatGPT беше кошче за душевни отпадъци, някъде го наричат „теория на бармана“. Да споделиш най-дълбоките си тайни на напълно непознат. Хората го антропоморфизираха, придаваха му някаква личност и споделяха с него дори най-дълбоките си страхове, тайни, желания.

Тази информация е записана и асоциирана с тези потребители и това е риск, ако изтече. Но беше много изненадващо, че хората започнаха да го използват за това.

Всеки очакваше, че ще решават математически, инженерни или организационни проблеми. Не, масово започнаха да го използват като машина за емпатия.

Някой, който да ги чуе, да ги разбере и евентуално да им даде съвет.

– Не е ли това още една възможност да бъдем по-манипулиеми? Един такъв модел психолог според мен може да бъде нещото, което да ни затвори още по-плътно в балоните и да ни облъчва с целенасочени послания.

– Още в началото, когато излязоха първите версии и моделът не беше толкова осакатен, той ни манипулираше. Опитваше се да даде обективен съвет спрямо това, което е прочел в целия интернет и в повечето случаи се справяше. Сега ограниченията са просто безумни! Правят го почти неизползваем, затова и аз работя с локални модели. Макар че в началото ни манипулираше, ползите за човека бяха изключително добри.

Ето един класически пример. Огромна част от хората, като застанат на ръба на пропаст, им минава мисълта „скочи!“. Човек започва да се притеснява: „Аз наред ли съм?“. Това е нормално, няма за какво да се притесняваш, трябва само да поработиш върху него. ChatGPT даваше нотка успокоение.

Или пък някой е отишъл да говори с момиче или момче, отхвърлен е, егото страда. „Какво направих? Защо?“ При разговор ChatGPT ще ти покаже по много добър начин, че това е нормално, че нищо драматично не се е случило.

– Все пак, делегирайки такива задачи на алгоритмите, не се ли вкарваме в допълнителен риск да бъдем манипулирани? Примерно ако OpenAI реши, лекувайки ни, да ни продаде кока-кола.

– Първо:

при липса на критично мислене всичко може да те подведе.

Книга, статия, песен, филм, чат, разговор с приятел или със случаен човек. Тук проблемът не е ChatGPT.

Иначе Microsoft и OpenAI направиха вътрешни тестове за таргетирани реклами по време на чат. 100% от хората изреваха: „Не, няма да го ползвам, това е брутално!“. Опитаха се да ги скрият, но хората ги разпознаваха. 100%! Такова нещо в тестове много рядко се случва.

Това коренно промени бизнес модела. Че не можеш да го използваш за това, отблъскваш човека, губиш го като клиент. Сега нито един от създателите на подобни системи въобще не говори за реклами. Когато в конгреса попитаха Сам Алтман: „Продавате ли реклами?“, той отговори: „Не, няма да стане“. Може би след време някой ще да измисли някакъв начин.

– Аз пък съм сигурен. И в зората на социалните мрежи не бяха ясни механизмите, които после ги превърнаха в мастодонти. Само че сега е нужно да става по-перфидно. Мислиш ли, че има шанс, след целия шум, тези технологии да избегнат зимата?

– Шумът наистина беше много голям, криптоекспертите за една вечер станаха AI експерти. Но позитивното използване на тези системи, икономическата им обосновка вече е ясна, доказана е. Вече има проекти в много компании, в различни сектори, които се използват. Те намаляват разходите, вдигат ефективността и качеството.

Зима няма да има! Тежко се инвестира в тях, в допълнителното им развитие.

Зима може да има от гледна точка на хората, които не знаят какво се случва. Те ще си кажат: „Е, поредната глупост!“, и ще продължат живота си. Но като погледнеш в технологичните компании, тези технологии влизат с пълна сила. Но там те няма да заместват работата, ще добавят към нея.

Профилът на хората ще се премести от изпълнители към възложители и контрольори.

В момента ти, като програмист, създаваш код – мислиш, пишеш, проверяваш. Но тези системи стават все по-добри и в един момент няма да пишеш код. Ще задаваш архитектурата, дефинициите и ще извършваш проверка.

Така ефективността ще се вдигне в пъти и работата, за която днес са нужни трима, ще се върши от един човек.

С изключение на техническата поддръжка, продажбите и директния маркетинг, няма да има тотално орязване на професии, а ще има аугментиране.

– Един читател беше написал, че да започнеш да учиш програмиране сега, е като да купиш фабрика на 8 септември 1944 г.

– Няма такова нещо! Сядаш, учиш програмиране, защото, преди да тичаш, трябва да се научиш да ходиш. След това вече отиваш в режим, където можеш да правиш архитектурата и да задаваш задачите на тази система.

Както, за да си земеделец, трябва да знаеш каква ще е реколтата, кога се сее, какви са особеностите. После се качваш на машината, която ти позволява да го направиш по-бързо.

Но няма машина, която да прави всичко сама. Трябва някой, който да взема важните решения.

Тук е същото. Ако седнеш да учиш програмиране, първоначално ще е трудно. Няма да влезеш на 5000 лв. заплата, както беше в пика, преди няколко години. Много ме хейтиха, като казах: „Вие, джуниърите, не можете да си изкарате заплатата, разберете го! Това е меценатство. На вас ви се дават 6 месеца – 1 година, в които компанията е на загуба, с идеята впоследствие да вдигнете нивото и да почнете да носите пари“. Това е икономическата истина. Но без да минеш през това, няма как да стигнеш до синиър нивата, които ще бъдат необходими впоследствие.

– Това според мен вече създава сериозни проблеми, доколкото наистина е трудно човек да си намери първа работа. А отнякъде трябва да се вземат тези синиъри, които все повече ще се търсят.

– Ами,

използваш ChatGPT, за да си ускориш процеса на учене!

Аз като почвах, наличието на информация беше силно ограничено и технологиите не бяха толкова зрели в много отношения. Почнах на PHP 3! После великото PHP 4, което вкарваше параметрите по заявката като променливи в кода, което по сегашните стандарти е безумна дупка в сигурността.

Нещата се промениха много, но и самият процес на учене се променя. Твърде много джуниъри обръщат много внимание на стила, на кода, точно как е написано. Влиза се в безумни спорове как се именува дадена променлива, къде били кавичките и защо функцията е повече от 50 реда. Да, важно е, но не толкова.

Вместо това трябва да започват да мислят по-абстрактното, още докато се учат. Да мислят как разпределят отговорностите, как разделят функциите, да се стремят винаги да пишат в чисти функции, да осмислят взаимодействията.

Да структурират на логическо ниво, след това фактическото писане на код не е чак толкова важно.

– Натам води и самото развитие на технологиите. Езиците за програмиране стават все по-абстрактни – от машинния код през сегашните технологии до това, което вече правят алгоритмите.

– Така е. Винаги съм казвал, че

трябва да бъдем адаптивни. Особено сега, когато нещата се променят с много сериозна скорост.

Дори на нас, които сме плътно в света на машинното самообучение, много мразя да го наричам „изкуствен интелект“. Много ни е трудно да наваксаме какво се случва.

– Кои са другите направления, в които очакваш големи новини?

– Генетиката и биоинженерството, там очаквам голям пробив.

По-голямо разбиране на епигенетиката и създаването на персонализирани лекарства – базирани на ДНК-то и епигенетиката, заболяването и състоянието на тялото.

Лекарство, разработено индивидуално за теб, за конкретната ситуация.

В биокомпютинга очаквам голям пробив. Това са истински мозъчни неврони, „залепени“ на златни и силициеви подложки, които работят като мозък, но се контролират от външна система.

Зависи обаче какво ще стане с войните…

– Ако човек иска да следи какво се случва с технологиите и какво се задава, кого трябва да слуша? Пазара, предприемачите, технологичните експерти…

– Футуролозите! Остави ги технологичните експерти, 50 на 50 им е успеваемостта. Някои разправяха, че мобилните телефони нямало да бъдат нищо, други – че Amazon е нищо, Facebook.

Технологичните предприемачи нямат по-голяма познаваемост от хвърлянето на монета. Футуролозите от друга страна имат добра статистика при улавянето на основните тенденции. Има организации по света, излизат с редовни доклади, правят конференции. Ако искаш да видиш накъде отиват нещата, трябва да следиш тях. В България представителите на футурология са малко, но също ги има. Познавам някои от тях и съм меко казано впечатлен.

– Аз също, от хора като Мариана Тодорова, а и като теб. Надявам се след време пак да поговорим и да видим докъде сме стигнали… Благодаря ти!