Николай Марков е сред специалистите, които проправят пътя към все по-масовото навлизане на изкуствения интелект във всяка област от живота ни. Макар повече от 2 десетилетия да е в света на информационните технологии, той е завършил инженерна физика и макроикономика. Опитът му минава от разработването на облачни решения през киберсигурността до изследването и внедряването на изкуствен интелект.

Днес е начело на екипа по ИИ, девопс и облачни практики на SoftServe. Заедно с това в TeamLandi разработва система, с чиято помощ малкият и среден бизнес ще получи достъп до пълния спектър възможности, които дава изкуственият интелект.

Защо тези технологии са тук, за да останат и да променят живота ни? Как така изкуственият интелект е първата технология, която може да навлезе в абсолютно всяка област? Как ще изглежда бъдещето?

– Разбрах, че работиш по проект, който ще направи изкуствения интелект по-достъпен за компаниите. Ще ми разкажеш ли малко повече?

– С TeamLandi стартираме на българския пазар един продукт, който е насочен основно към средните и малките компании, тъй като за тях няма много решения. Става дума за цялостна система, която да им помогне лесно и бързо да се възползват от най-съвременния напредък на ИИ услугите. Да могат да ги интегрират в техния бизнес чрез платформа, която да направи това наистина достъпно и лесно за ползване.

Имаме вече първи вариант на продукта, в активни тестове сме, имаме и запитвания от компании. Ще се радвам скоро да мога да разкажа повече, но определено става дума за цялостно решение.

– За какъв тип ежедневни приложения става дума?

– В SoftServe, компанията, която точно навърши 10 години, се занимавам основно с трансформации в големи компании, много от тях са от Fortune 500. Имам доста опит с всички големи облачни платформи. И виждам как,

за разлика от клауда, при ИИ просто няма област и задача, в която да не може да помогне.

Абсолютно всяка задача, която човек може да си представи, има как да бъде улеснена от изкуствения интелект. Това не беше така с нито една друга технология от тези, които навлязоха през последните десетилетия.

И това е важно да се има предвид още в началото, при планирането. Всяка трансформация започва с планиране на конкретните приложения. Ако за облачните услуги това можеше да е например да стигнем до световния пазар, да си намалим разходите или пък по-бързо да разработваме софтуера, при ИИ няма нужда кой знае колко да го мислиш – може да помогне в абсолютно всяка задача, какъвто и бизнес да имаш. Ето, сега записваш разговора ни, после, вместо да слушаш, ИИ може да ти го обобщи или транскрибира.

– Само че далеч не винаги успешно… Като програмист също виждам как се въвеждат такива апликации, но все още не се справят, биха резюмирали нашия разговор доста нескопосано.

– Да, не винаги работи добре. Но, виж, назад във времето,

за всяка технология в началото казват така, че има какво да се желае, не е достатъчно добра.

Спомням си виртуализацията, в началото тя използваше 50% от ресурса на сървърите и не работеше добре. А сега всичко е изнесено в облачни услуги и се използва над 99%.

В други посоки вече се справя чудесно. За програмистите например има всякакви копилоти, които работят добре. Дори такива, които не са свързани с Microsoft, защото понякога е важно моделът да работи на твой компютър. Може данните да са критични. Например мой приятел е във фирма, която работи с патенти и те използваха Google Gemini, преди да разберат, че не е добър вариант.

Ако имам критични данни, аз не бих ги споделил с модела.

Такъв тип данни е по-добре да си останат при теб, може да използваш модели с отворен код, които в днешно време са доста конкуренти.

А има и хибридни решения, при които вместо всичко да е централизирано и да работи на някакви сървъри с видеокарти, част от изчисленията се случват в клауда. Например, оказа се, че чиповете на компютрите Apple много добре се справят при работа с малки модели и това е удобно за компаниите. Имахме един клиент със 70 програмисти, всичките бяха с MacBook и по този начин дори не беше нужна допълнителна инвестиция. Всеки си пуска локално модел, който директно се интегрира с Visual Studio Code и така избягва всички рискове на отдалечения модел.

– И въпреки всичко, още преди ChatGPT, но особено след него, с много гости си говорим за това как ще навлязат тези приложения. Обаче нямам впечатление, че за момента това се случва масово. Защо се бавим толкова?

– При всяка технологична промяна, особено толкова мащабна, има съпротива от различен тип. От служителите, страх, предпазливост от хората, които са начело. Много голяма част от технологиите се възприемат, следвайки „FOMO концепцията“ – да не вземем да изпуснем нещо важно. Бавенето се случва и защото повечето хора не вярват в това.

Миналата година си говорих с много компании, които си мислят, че ИИ е просто поредното нещо.

90% от хората не обичат промените, а в големите организации може би процентът отива на 95. Наскоро имахме вътрешно проучване, което разкрива по-малко от очакваното използване на генеративен ИИ в компаниите. Едва 22% от организациите споделиха, че използват ефективно технологията във всички бизнес функции.

В случая с ИИ обаче има и нещо много различно. Когато идваха облачните технологии, хората можеха да видят и разберат, че е нещо, което могат да научат – преходът не е чак толкова голям, поредната нова технология, с която ще трябва да свикнем.

Докато това, което забелязвам в последно време с ИИ, е, че се получава един голям страх. Преди ChatGPT този тип технологии се ползваха от специализираните отдели, които се занимават с данните на компанията. Обаче сега хората масово се запознаха с технологията и много от тях ги е страх, че ИИ ще им вземе работата.

Като съберем всички тези фактори, става ясно защо нещата се случват по-бавно.

И все пак, основната причина са слабите лидери.

Повечето хора, които са на най-високите нива в големите компании, с които съм работил, избягват рисковете. За тях трябва една технология да се утвърди и тогава да се възприеме. Има изключения, разбира се, при ИИ това вече се вижда. Някои усещат, че това наистина може да им даде предимство пред конкурентите и търсят партньори, с които да го осъществят успешно.

– Според теб грешка ли е, че напоследък, говорейки за ИИ, почти винаги имаме предвид големите езикови модели?

– Не мисля. Опитваме се максимално бързо и лесно хората да се адаптират, да разбират какво представлява това, трябва да е максимално близко с техния език. Както в България изборите са добра извадка как, като говориш на езика на повечето хора, получаваш най-добри резултати. Горе-долу същото е и с езиковите модели.

Основният успех на ChatGPT дойде, защото направиха интерфейса лесен за ползване, удобен, безплатен. Фокусът на OpenAI напоследък не е да правят още по-умен модел, а да е максимално лесен за използване – сега и с гласовите команди. Много обичам да показвам на хора, които не ползват ChatGPT, директно на телефона, платената версия, може да го пуснеш и да си говориш на български. Те са много впечатлени и започват да го ползват, особено след като стана безплатен.

Има и още едно важно направление. Още от миналата година активно работим с ИИ агентите, един допълнителен слой, който доближава и в някои случаи помага моделите с отворен код да достигнат и дори да задминат комерсиалните.

– И аз неотдавна разказах концепцията за агентите. Интересно е, че докато масовото въвеждане като че ли се бави, всичко останало в тази област се променя светкавично. Само допреди година трябваше да отделиш часове, за да подкараш един локален модел, а сега става с два клика.

– Това е чудесно, защото помага за интегрирането. Говоря си с приятели, които не са в нашата сфера, и всички се съгласяват, че

ние, хората, живеем по-добре единствено и само благодарение на технологиите.

И развитието им е пътят към просперитета. Дотук всяка технология е направила живота ни по-добър. Заради нея всяко следващо поколение живее много по-лесен живот. Да, трудностите са различни, но все повече задачи делегираме на технологиите.

В случая ИИ пробивът включва няколко неща. Идеята колкото може повече хора да го използват, за да са по-ефективни, а аз вярвам, че хората трябва да се мерят по това. Няма значение колко часа работиш, а какво правиш и как го правиш. Някой може да свърши дадена работа за 15 минути, друг и за половин година няма да успее.

Именно това правят големите езикови модели – те ни позволяват да сме много, много по-ефективни.

Те са старият Х-мен, който подсилваше всички умения на другите мутанти. Благодарение на ИИ можем да работим по повече проекти, по-бързо да си вършим работата, пести ни време. Такава е и практиката, която оглавявам в SoftServe – с цел да работим по-умно, с по-малко времеви и човешки ресурси.

С помощта на агентите, Сам Алтман каза, че най-вероятно до края на тази година ще видим сам човек да създаде компания с $1 милиард капитализация. Затова е важна ефективността. Особено с помощта на агентите можем да си сформираме цели екипи, които да са на разположение 24 часа, 7 дни в седмицата, да решават всякакви задачи.

А после, следващият голям пробив, ще са андроидите, доста компании напредват и в тази посока. Предполагам, че до 5 години ще можем на цената на среден клас автомобил да си купим доста съвършен робот, който да ни помага. Аз лично го чакам с нетърпение.

– Аз също, макар че дотогава трябва да си отговорим, както винаги с технологиите, на доста важни въпроси. А мислиш ли, че скоро може да постигнем пробив в изчислителната мощ? Защото в момента тези модели консумират изключително много ток, дотолкова, че четох как по консумацията в САЩ си личи кога OpenAI обучават следващия си голям модел…

– Това е пресилено, но наистина в момента всички центрове за данни, които се строят, се борят за лицензите за голяма консумация. При AWS стигат 1 гигават, всички напредват – Meta, DELL, Microsoft, Meta, X.ai.

Виждаме, че се правят чипове, които да се използват за изчисленията в реално време. Както с биткойните – първо копаехме с видеокарти и през 2014 г. масово навлязоха решения, конкретно предназначени за това. Всички големи технологични компании вече инвестират в чипове, които да се ползват в тази посока, така че тези на NVIDIA да са само за третирането на моделите. Защото в момента голяма част от тях отиват само за използването им.

А що се отнася до тренирането – виждам, че се инвестират много сериозни средства в термоядрения синтез. И Сам Алтман лично, всички гледат в тази посока, пробив, след който да можем да добиваме повече енергия.

Много насоки има в търсенето на по-ефективни енергийни източници. Виж как пак стигаме до ефективността…

– А според теб кое в момента най-вече ограничава следващото развитие? Изчислителните способности, моделите или липсата на повече данни?

– Хората много залитат към данните, но това по-скоро е вътрешен егоизъм, както си мислехме навремето, че всичко се върти около Земята.

Ясно е, че всички публично достъпни данни са използвани в моделите, те са тренирани на тях. Но данните трябва и да са качествени. Отдавна сме отвъд тях. Един нов модел на NVIDIA например е много подходящ за генериране на синтетични данни. Аз не смятам, че има проблем с тях, преди имаше предположения, че ако един модел се тренира осново със синтетични данни, няма да работи добре, но явно не е така.

От гледна точка на данните наистина не мисля, че ще имаме голям проблем. Наистина, според мен, основното предизвикателство е енергията. Това се вижда от всичките лидери, всеки се опитва да има максимално количество чипове. Но токът изисква време. Без значение кой си, отнема между 3 и 5 години да вземеш разрешително за център за данни.

Зукърбърг, Алтман, Мъск говорят за предизвикателствата с енергията. Например, за Европейския съюз основният регион, който ще се развива от Microsoft, е Швеция, тъй като вероятно са получили достатъчно количество енергия, което да захрани потенциалните нужди на ЕС за идните месеци и години. Така, според мен, най-голямо предизвикателство е енергията, което, обаче, не очаквам да остане задълго. Но е много трудно човек да прогнозира нещо, от днес за утре излизат някакви неща, които са изумителни.

– Така е, трудна задача е прогнозирането в света на технологиите, но важна. Благодаря ти за този разговор!