„Светът е пред Рубикон. Ще съжителстваме с умните машини, очаква ни нов, различен свят, но готови ли сме за него?“

Този въпрос, заради който съществуват и Дигитални истории, задава на корицата на новата си книга днешната ни гостенка Петя Минкова. В „Преходът от цифровия век към хибридната цивилизация“ тя разказва за дългия път от първите компютри до бъдещето на свръхмогъщия изкуствен интелект.

И макар отговорът на въпроса дали сме готови да е ясен, има още толкова важни въпроси, които ще обсъдим на следващите редове!

Имаме ли друго бъдеще, освен като хибридна цивилизация между хора и технологии? От какво зависи оцеляването ни и как ще изглежда ежедневието ни, когато този преход се случи с пълната си сила? Защо ИИ е много повече от опасност, а и възможност всеки един от нас да изкачи своя личен Еверест?

– В новата си книга пишеш за човека в преход „от цифровия век към хибридната цивилизация“. Как ще изглежда тази цивилизация? Тук ли е вече?

– Преходът отдавна е започнал. Още в момента, в който установихме, че смартфонът е миникомпютър, който постоянно е с нас, можем да му зададем всеки въпрос и да получим отговор. Появата на ChatGPT бе следващата повратна точка. Оттогава никога в историята така масирано не се е инвестирало в дадена технология.

Само през миналата година частните инвестиции в САЩ в тази сфера достигнаха $109,1 милиарда, в Китай – 9,3 млрд. по официални данни, но според специалисти надхвърлят 160 млрд., във Великобритания – 4,5 млрд. Прогнозите са, че глобалният ИИ пазар до 2030 г. ще е около 1,9 трилиона евро. Инвестициите в тази сфера само през миналата година бяха $33,9 млрд. или с 18,7% повече спрямо 2023 г. Затова смятам, че следващия хиперскок в революционна технология няма да е далеч.

Книгата „Преходът от цифровия век към хибридната цивилизация“ оглави класацията на Гринуич през юни.

– И дори да се абстрахираме от чисто финансовите измерения, мисля, че дори и най-големите скептици се убедиха, че ИИ е способен на невероятни неща.

– За мен най-интересното в този преход към хибридна цивилизация е, че

ние се адаптираме бавно и сякаш не го усещаме.

Примерно, за мен е дискомфорт да бъда в отпуск без лаптоп, но много скоро той ще е технология от „ерата на динозаврите“, като магнетофона или касетофона. Навсякъде ще ходим с някое малко устройство, което ще ни свързва с облак и чрез него ще имаме достъп до знания на човечеството от зората на цивилизацията до днес.

Учените все по-бързо ще анализират досегашните знания и ще ги надграждат. Така че вече сме на бързата писта към хибридната цивилизация и ни предстои експоненциален ръст на знанията и технологиите. Освен ако не направим нещо изключително глупаво или не станем жертва на катастрофално космическо събитие.

В книгата съм публикувала разсъжденията на различни учени и техните сценарии и за жадните за знания хора те ще са свръхлюбопитни. Най-важното в този процес на поетапното ни сливане с машините е

да не забравяме човешката си същност, че добротата и любовта са естествените ни състояния, че сме от един и същи вид Homo Sapiens,

обитаващ безумно красивата ни Синя планета, пълна с живот. Приоритетната ни задача е не само да го съхраним за следващите поколения, а и да ги научим как по-добре от нас да се грижат за Земята, за нашия вид и за това чудо живота.

Авторът на книгата Петя Минкова

– И ти благодаря, че с книгата си даваш ключова реплика в този и според мен жизненоважен разговор за бъдещето, който така и не успява да се състои… Знам колко е невъзможно да се предвижда бъдещето в технологичната ера, но според мен е също толкова важно да не спираме да опитваме да го прогнозираме, защото само така можем да стигнем по-близо до положителния сценарий. Според теб как ще изглежда денят на един обикновен човек в епохата на хибридната цивилизация?

– Ще стъпя само на сигурни факти. През тази година хуманоидните роботи в глобален план ще са над 1000, прогнозите са, че до 2040 г. ще достигнат няколко милиарда. Постепенно те ще станат обслужващ персонал в хотели, в ресторанти, цели заводи ще се управляват от няколко опитни инженери, машините ще ни помагат за домакинската работа, ще се грижат за възрастните.

Ще имаме автономни автомобили, които ще „виждат“ и ще се ориентират все по-добре, независимо дали са в условия на висока замъгленост, задимяване и т.н.

Сценарият на техноутопистите от Силициевата долина е, че човек ще има достъп до много повече блага на много по-ниски цени.

Но аз разговарях с много учени и те не са чак такива оптимисти. Всъщност в книгата са загатнати много дълбоки процеси и то от хора с „рентгенов поглед“, вперен в бъдещето.

Очевидно е, че има опасения от бунтове срещу машините, но да не забравяме прогнозите на Световния икономически форум, че до 2030 г. ще има 170 милиона нови работни места, които ще компенсират 90-92 милиона съкратени в резултат на въвеждането на роботизирани системи. Тоест, заетостта ще се увеличи със 78 млн. работни места. И тъй като ще се налага все по-малко да работим, за да придобием стоки и услуги,

най-голямата опасност е сблъсъкът с въпроса: „Каква е новата цел, какво ме мотивира“?

Заедно с това ще се развиват нови индустрии, за които днес все още не подозираме. Постепенно ще се превърнем в междупланетна раса, ще търсим ресурси на астероиди, на други планети. С помощта на машините ще проникнем в тайните на тази черна кутия – климата, за да не допуснем „изтъняване“ на атмосферата.

От тази гледна точка, всеки работлив и креативен човек, който иска да остави на децата си по-добър свят, може да намери невъобразимо количество вдъхновяващи цели и със съмишленици да ги реализира.

– Кой е най-важният разговор, който трябва да проведем за този преход, преди да е станало късно? Кои са най-големите грешки, които в никакъв случай не бива да допуснем?

– Много са разговорите, които трябва да се проведат с факти, с прецизни прогнози и с топучени с доказана експертиза в различни сфери. Първият е

какво ще правят милионите хора, които, чиито места ще бъдат взети от машините?

Някои може би ще се преквалифицират, но какво да се прави с другите, които отказват да учат, да усвояват нови умения?

Вторият важен разговор е какви ще са гаранциите за оцеляване на човечеството в контакта му с бъдещия изкуствен интелект. Той в момента е перфектен библиотекар, който чрез кодове ни намира исканата информация. Но

ако един ден започне да осъзнава, да се самообучава, да прави самостоятелни разсъждения, боравейки със знанията на човечеството?

Тогава ние, с нашите чудесни биологични мозъци, които са креативни, комбинативни, любопитни, жонглиращи умело с идеи и знания, ще сме изправени пред много интересно предизвикателство. Застраховките е необходимо да се направят сега, защото след няколко години може да е много късно.

Искрено се радвам, че един от любимите ми визионери и футуролози доц. Мариана Тодорова е в групата на ООН, фокусирана именно върху тези проблеми.

Петя Минкова заедно с проф. Стоян Марков и Пламен Орешарски на премиерата на книгата.

– Аз също! Откакто го има сайтът ми, тя е гостът, с когото посрещам всяка нова година, сядаме и гледаме нататък… Но в книгата си ти поглеждаш и назад, към позабравената тема за това как страната ни беше сред пионерите в информационните технологии по времето на Студената война. Можеше ли България да е сред водещите технологични нации днес?

– Докато подготвях книгата в продължение на 22 години, разбрах един свръхлюбопитен факт –

през 80-те България е била една от четирите страни със суперкомпютър – останалите са били САЩ, Япония и Великобритания.

С нашите машини са реализирани много сложни космически мисии до Венера, изследване на Халеевата комета, проведен е тестов полет на безпилотната совалка „Буран“ – 26 години преди Илон Мъск да изстреля ракетата си за многократна употреба. Електрониката ни е преживяла истински „златен век“, разработвали сме все по-мощни дискови устройства – постижения, които не са били по силите дори на мастодонт от типа на СССР.

– После обаче нещата бързо и рязко се променят. Днес имаме доста развит ИТ сектор. Може ли страната ни отново да е водеща в тази област? От какво зависи дали ще се случи?

– Това е и мисията на книгата „Преходът от цифровия век към хибридната цивилизация“ – да представи учените, създаващи суперкомпютрите, които ще приютят бъдещия много по-напреднал изкуствен интелект. Целта е тя да вдъхнови все повече младежи да се насочат към науката, да проучват възможностите на софтуера за супери и да разберат колко време могат да спестят.

От книгата ще научат и на какъв етап е Европа. Как с много интелект и иновативност европейските учени, сред които и българи като проф. Стоян Марков и д-р Кристина Капанова, скоро можем да изпреварим в някои отношения дори САЩ. Този тандем създаде българския супер Discoverer и благодарение на усилията им, на съвместното предприятие EuroHPC (EuroHPC JU), на екипа на „София Тех Парк“ и този на проф. Мартин Вечев от INSAIT, България ще има ИИ фабрика.

Сега целта ни с проф. Стоян Марков е колкото се може повече студенти да разберат за потенциала на тези машини и приложенията им, за да могат те да стигнат по ниво и знания своите европейски и американски колеги. А защо не и да ги изпреварят в някои сфери?

JUPITER е най-мощният суперкомпютър на Европа.
СНИМКА: Julich Supercomputingg Centre (JSC)

– Срещнала си се с много водещи учени от света на информационните технологии. Разкажи ми за някои, за когото се чува твърде малко, а заслужават да се споменава по-често.

– Трима са в личната ми класация. Единият е проф. Стоян Марков, който цял живот е разбивал с главата си стени и не само че никога не се е отказвал, а и никога не се е и изтъквал. Точно обратното. Близо 20 години го убеждавах колко необходима е такава книга, но за целта трябва да проведа много задълбочени интервюта с него. Той бе непреклонен, но и аз не се отказах.

Прие да участва някъде след 2023 г. Но истината е, че той е моторът, за да станем четвъртата страна със суперкомпютър в света през 80-те. През 2008 г. с помощта на финансовия министър Пламен Орешарски България стана първата страна в Източна Европа с модерен суперкомпютър. Приеха ни в PRACE – европейското партньорство в областта на суперите, а Националният център за суперкомпютърни приложения осигури необходимия софтуер, за да може той да се използва в научните изследвания и индустрията.

Проф. Марков и д-р Капанова създадоха втория ни суперкомпютър Discoverer, който е прототип на централния модул на най-мощния европейски JUPITER.

А той е мултифункционална машина с чудовищната производителност милиард по милиард операции в секунда. Способен да приюти един много по-напреднал изкуствен интелект, който определено няма да е обикновен „библиотекар“ като сегашните модели.

Проф. Томас Липерт, начело на екипа, създал JUPITER, също като проф. Марков никога не се е изтъквал и за него се знае малко. Стопроцентов гений, който не само измисли модулната exascale технология в суперкомпютрите, не само участва в създаването на европейския квантов компютър, а сега с екипа си иска да го обедини с JUPITER, за да му даде немислима до момента супермощност. В историята винаги са се появявали подобни изключителни фигури, които сякаш компресират времето и ни запращат далеч в бъдещето.

В тази мъжка компания бих включила и една дама – проф. Катрин Амунтс, научен ръководител на E-Brain, втората фаза на Human Brain Project, която с екипа си създаде първия 3D анатомичен атлас на мозъка. Не мога да се отърва от мисълта, че ако не бе този научен пробив, граничещ с подвиг, обучението на невронните мрежи все още щеше да е в Епохата преди ChatGPT.

Проф. Томас Липерт пред JUPITER, който ще приюти AI от ново поколение.

– Засягаш задълбочено идеята за дигиталните двойници – на хората, на природата, на планетата дори. На кое никога не бива да правим или няма да успеем да направим двойник?

– Разговарях с много учени, детайлите подробно са описани в книгата, има различни мнения.

Подозирам, че мозъкът ще се окаже „Мисия невъзможна“.

Не бива да се правим и на Бог, но създаването на синтетична ДНК вече започна. Генно се редактират съществуващи животни, за да приличат на страшния вълк отпреди 13 хил. години, за да имаме слон, приличащ на мамут и т.н. Рано или късно някои учени ще се сетят, че са преминали поредната опасна червена линия.

– Казваш обаче, че днешните технологии ще позволят на всеки да изкачи своя личен Еверест. Аз също вярвам, че е така. Каква е личната ти рецепта за това един човек да не се превърне в жертва на изкуствения интелект, а да го използва адекватно, смислено, така че да му помага да изкачва върховете си?

– Най-важното е да разберем самата технология – ИИ не разбира, за него нашите думи са кодове, той не ги осъзнава, просто рови в библиотеката и ако намери близко до въпроса ни съвпадение, ни го дава. Когато сме наясно с това, няма как да приемем поднесените от ИИ отговори безрезервно.

Още повече, че той прави отчайващо глупави грешки. От тази гледна точка критичното мислене е най-верният ни ориентир.

Важно е да си дадем време да анализираме отговорите, да поразсъждаваме – какви са пукнатините в тезата му, да направим проверки, които ще ни „въоръжат“ с допълнителни факти и постепенно ще постигнем истинско и задълбочено разбиране на дадено явление. Само когато сме критични и непрекъснато разширяваме личните си хоризонти, но осъзнато, можем да сме водещи в това интересно партньорство.

В противен случай ИИ ботовете имат потенциал да се превърнат в съвършени манипулатори, с всички произлизащи от това опасности. Много важно е да сме нащрек, да следим новостите в тази технология, да познаваме предимствата и да сме наясно с ограниченията ѝ. Тогава не бихме ѝ се доверили безрезервно, освен в сферите, в които има преднина. И едно предупреждение. Наскоро Масачузетският технологичен институт (MIT) публикува едно много любопитно изследване, което установи, че 83% от студентите, използващи ChatGPT, когато бъдат помолени да разкажат това, което са написали с негова помощ, се провалят. Не могат да си спомнят за какво става дума. Обратно, ако сами са си намерили фактите и са ги проверили, подобен неуспех се случва едва при 11%. Тоест, когато караме някой да търси и пише вместо нас, тогава сами убиваме способността си да мислим, да разширяваме знанията си, да развиваме мозъците си, невронните си пътища и т.н. И тогава стигаме до организираното и съзнателно затъпяване.

– Готови ли сме като общество за технологичното бъдеще, или повечето хора дори не подозират какво идва? Как да ги „събудим“?

– Аз направих моята крачка към това събуждане с книгата „Преходът към цифровия век към хибридната цивилизация“. Много ми се иска тя да стигне до хората, смятащи, че ученето е за цял живот и до младите, за да не се лутат, а да видят накъде са се насочили хората, които „коват“ бъдещето днес, и да се фокусират именно върху тези сфери.

Квантовият компютър на Европа – 5000 кюбита за 10 секунди, което е равно на цяла вечност.
СНИМКА: Julich Supercomputingg Centre (JSC)

– Как можем да решим проблема с излишните хора по Харари или с това, че за първи път в историята елитът няма да има нужда от останалите, както сполучливо го формулира доц. Мариана Тодорова?

– Това е въпрос за няколко трилиона долара, който не е решен дори в елитни тинк-танкове като Световния форум в Давос. Задават си го едни от най-умните хора на планетата – от ИТ милиардерите, през футуролозите, политиците и обикновените хора.

От една страна е плашещо, защото автономните роботи и многофункционалните машини вече са част от живота ни и е въпрос на 2-3 години, за да започнат да отнемат работни места. От друга, тенденцията в Западния свят е неумолима – възрастните живеят все по-дълго, а раждаемостта намалява.

Тоест, младите хора ще трябва да се квалифицират непрекъснато, за да могат да управляват цели заводи и фабрики, да програмират, а възрастните ще работят все по-дълго. Искрено се надявам, когато сме на прага на това второ Просвещение, когато ще боравим със знанията на човечеството и възможностите за растеж във всички сфери ще са безкрайни, този процес да не бъде белязан от кървави бунтове и революции.

За да не се стига до подобни сблъсъци някои учени смятат, че единственото решение ще е базовият доход. Същевременно тепърва ще се появяват нови професии. Никога не съм предполагала, че ще има толкова млади и скъпоплатени специалисти по социални мрежи на практика без никакво фундаментално образование. Факт е, че те са сред най-търсените в момента и с лекота заемат ръководни позиции, защото са в състояние да презентират продуктите на компаниите по атрактивен за публиката начин.

В същото време в обществото винаги е имало определен процент мързели, които не търсят работа, няма и да търсят с развитието на технологиите. За съжаление, в това сложно количествено уравнение, където ресурсите са в колоната, а потенциалните цели в редицата, все още има твърде много променливи и динамиката им е неимоверна. Така че истината може би е някъде по средата и все още е твърде рано за прогнози.

– Как да подготвим следващото поколение за живота в тази хибридна цивилизация? Трябва ли децата от малки да учат програмиране, роботика и дигитални умения, или по-важно е да развият гъвкавост, критично мислене и способност постоянно да се адаптират? Темата за мен е огромна и е повод за дълга поредица от Дигитални истории.

– За мен най-важното е да ги научим да мислят критично, да познават дигиталните технологии с техните предимства и недостатъци. Да знаят, че климатът се променя и трябва да са готови за внезапни промени,

да се адаптират, да са мобилни, да мислят бързо, да са креативни и постоянно да търсят различни приложения на наличните ресурси.

С други думи, да са като прадедите ни, които излязоха от пещерите и смело завладяха цялата Земя с лудото си любопитство и иновативност. Но най-важното е да научим децата да бъдат добри хора, да не забравят, че всички сме от един и същи вид и че най-естественото нещо е, когато имаме нужда от помощ, да си помагаме.

– Какво би научил за хората един супернапреднал изкуствен интелект, ако прочете твоята книга?

– На този етап нищо, за него думите са код.

– Според мен тази граница се размива, той все по-успешно я преминава. Но през последните години като че ли си говорим много по-малко за напредъка на човечеството в Космоса, а технологиите дават огромни надежди в тази посока, ти също ги спомена преди малко…

– Космическите агенции и най-вече НАСА се борят със системни дефицити във финансирането, съкращават се мисии, опитни кадри. Една от най-перспективните технологии са термоядрените ракети, Sunbird работят по проекта Pulsar, който само след 5 години може да развие 800 000 км/ч. В момента Falcon 9 на SpaceX e проектиран да достига 28 000 км/ч.

От тази гледна точка, живеем във вълнуващи времена! За първи път човечеството има шанс да проучи Космоса и да „надникне“ извън пределите на Слънчевата система. По този начин

рязко ще компресираме времето за търсене на нови и може би по-уютни светове, подходящи за наш втори дом.

В книгата публикувах много интересни сценарии по този въпрос през погледа на изключителни учени.

– Кое е последното нещо, с което те впечатли изкуственият интелект?

– В MIT вече разполагат с добре тренирани мрежи, които разпознават бъдещ рак на гърдата на много ранен етап, когато могат да се вземат превантивни мерки, за да не се стигне изобщо до диагноза. Сигналите са невидими и неуловими за окото на лекарите-специалисти.

– А коя следваща технологична стъпка нямаш търпение да бъде извървяна?

– Автономен робот, който сам се обучава да осъзнава своите действия, да ги контролира и да се самоусъвършенства.

Отново в MIT са в начален етап на тази разработка. Ще бъде велико преживяване! Безценно за науката в абсолютно всички сфери, за превръщането ни в междупланетна раса, за създаването на общество на изобилието и новото Просвещение. От друга страна, искрено се надявам да не се качим обратно на дърветата, ако тази технология попадне в неподходящите ръце.

– …дали ще стане така, пак казвам, според мен зависи от това дали ще успеем да започнем по-адекватно разговора за бъдещето. Благодаря ти, че тази кауза ни е обща! Ще се радвам след време да продължим разговора и да видим дали се е получило…