Не просто живеем в динамични времена, в които като хора не успяваме да настигнем напредъка на технологиите. Намираме се във време, в което именно технологиите ни карат да започнем отначало. Налага се да предефинираме много от определенията и системите, които изграждат живота ни – от демокрацията и капитализма до изкуството и творчеството. Не ви го казвам аз, а добрият стар Хенри Кисинджър, който на всичкото отгоре изпраща посланията си за бъдещето и изкуствения интелект… от отвъдното.

Съвсем наскоро излезе на български последният труд на една от личностите – символи на ХХ век; на човека, на когото до голяма степен дължим това, че студената война си остана такава, а не се превърна в Трета световна. „Генезис – изкуственият интелект, надеждата и човешкият дух“ (издателство „Труд“) събира изключително важни възгледи на Кисинджър за бъдещето, в което вече живеем.

Представям ви 14 от акцентите, дано те са повод най-сетне да започнем закъснелия обществен разговор за бъдещето на човечеството в ерата на напредналите технологии и изкуствения интелект.

1. Месинджър

„В книгата не са използвани системи за ИИ.“

Право да ви кажа, за първи път виждам подобно уточнение още в авторското каре. Това ли е още по-новото нормално?

Какъв е смисълът от подобно твърдение, което вече по никакъв начин не би могло да бъде доказано? Това повод за хвалба ли би трябвало да е, или обратното? Честно казано, точно за текста на тази книга съм убеден, че авторът не е изкуствен интелект, а напълно естествен, който обаче не е между нас.

2. Писмо от отвъдното

„В епохата на ИИ каква ще бъде ролята на човека? В последните години от живота си Хенри Кисинджър се посвети на изучаването на ИИ и е съавтор в тази книга с учените Ерик Шмит и Крейг Мънди. Трудът е дълбоко изследване на начините, по които можем да опазим човешкото достойнство и ценности в една ера на независими машини.“

Уолтър Айзъксън

Думите на писателя и историк са част от предговора към „Генезис“, където можем да видим и думите на Сам Алтман и Бил Гейтс. Да, тази книга е написана в съавторство на Кисинджър с Шмит и Мънди, но аз по-скоро бих ги нарекъл технологични лидери – двамата дълго време бяха на водещи позиции съответно в „Гугъл“ и „Майкрософт“ и човек трудно би могъл да ги обвини в непознаване на технологичната тематика.

Но как четем книга от автор, който не е тук? Дали вече имаме технология, която е обучена на опита му? Чувал съм за „възкресения“ от ИИ Владимир Жириновски, но за Кисинджър…

Не, (все още) не е това.

Да, Хенри Кисинджър си отиде, навършил 100 г., през ноември 2023-а. През последните години от живота си той повдигаше активно темата за изкуствения интелект, далеч преди тя да стане модерна с раждането на ChatGPT. Затова и не беше особена изненада, че година след смъртта му на английски излезе „Генезис“, а после се появи и на български. Това е последната книга, по която е работил дипломатът, а съавторите му завършиха сами. Дори без да ни съобщават коя част от текста от кого или как е написана.

Така или иначе, много по-важни са посланията.

3. Краят на Просвещението

„Обективната способност на ИИ да достига до нови и точни заключения за света чрез нечовешки методи не само разрушава доверието ни в научния метод, развиван последователно в продължение на пет столетия, но и поставя под въпрос човешката претенция за изключителен или уникален достъп до реалността. Какво означава това? Дали епохата на ИИ няма не само да изведе човечеството напред, а напротив – да катализира завръщане към предмодерно приемане на необяснима власт? С други думи: изправени ли сме, или бихме могли да се окажем пред прага на велик обрат в човешкото познание – тъмно Просвещение?“

Quo vadis? Накъде отиваме? Този точно въпрос, който уж все търсим, а по същество все избягваме в обществения разговор. „Мисля, следователно съществувам“, гласят популярните думи на идеолога на Просвещението Рене Декарт, а Кисинджър упорито пише за това, че днес се озоваваме в съвсем различна ситуация.

„Да, то не е човек. Обаче се държи точно като човек. Супер очевидно е, че отсреща има интелигентност. Очеизвадно. Разбира, съобразява, прави грешки, поправя се… ами, точно като човек!“, каза ми неотдавна приятел за работата си с ИИ в софтуерната разработка. По същия начин усещам промяната и аз. И не е трудно да се убедим, че все повече хора предстои да го осъзнаят. ИИ вече далеч не е просто предсказващ следващия отговор алгоритъм. Той е много повече.

Тук е, за да променя всичко. Дано се замислим, преди да се е случило… а не както обикновено.

4. Роботче хвърковато

„Развитието на ИИ води до нова ера на откривателства. Когато ИИ е интегриран във физически системи, роботизираните сензори поемат роли, които по-рано биха се изпълнявали от хората, като по този начин елиминират опасността от възможна физическа травма, човешка смърт, като даже умножават редиците на нетърпеливи разработчици и инвеститори.“

Неслучайно г-н Мъск отдавна говори за това, че хуманоидните роботи Optimus ще са дори по-голяма бизнес ниша от „Тесла“. Неслучайно и китайското правителство инвестира главозамайващи суми в тази посока.

Смеем се на изкуствения интелект, отричаме го, а в същото време той не е сам. Напредъкът на големите езикови модели и всичко около тях върви ръка за ръка с направления като самоуправляващите се коли, роботиката, триизмерните визуализации. Всяка крачка напред в една от посоките помага и на другите.

Не, краят на технологичния ни прогрес не само не е близо, а става все по-ефимерен, развитието – все по-трудно предсказуемо.

5. Полимат банкомат

„ИИ – за разлика от всичко – е върховният полимат. Изследвайки човешкото познание, той е способен да обработва и генерира представяния на масиви от информация с невероятна скорост. Той оценява модели в безброй измерения и полета едновременно, създавайки безпрецедентна свързаност. Неговата ефективност му позволява да надхвърли ограниченията на човешките открития до степен, в която дори се очаква да успее да обедини много данни и действия в ново „единство на знанието“, по думите на американския социобиолог Е. О. Уилсън.“

Едно време му казваха „всестранно развита личност“, после отрекохме тази идея. Хората трябва да са специалисти в своята все по-тясна област и ако си много добър в диференциалните уравнения, нямаш право да говориш за литература и обратното.

Е, Кисинджър и колеги го наричат „полимат“. Това е събирателният им термин за личностите, които са променяли света – от Леонардо до Коперник, от Наполеон до Айнщайн. Какво ги обединява? Че никой от тях не е просто тесен специалист в дадена област. Те комбинират на пръв поглед несъбираеми знания и умения от различни посоки, за да движат напред историята.

Сещате ли се кой е този, който има достъп до огромна информация и всяка седмица излиза следващия му нов вариант, способен на все повече?

Изкушавам се да добавя тук, че идеята за многостранното развитие е и в основата на системата на Теодосий Теодосиев – Тео, благодарение на която имаме толкова много златни медалисти по физика, които после се превръщат и в успешни хора.

Още ли си мислите, че зъболекарите няма нужда да са и импресионисти?

6. Непозната в огледалото

„Съществуват два начина да осмислим настоящата ситуация. Първият е чрез проекция на познатото. Досега най-трансформиращите технологии, създадени от човечеството, са служили за усъвършенстване или стимулиране на телесните ни способности. (…) Явява ли се ИИ просто още едно продължение на човешките способности?

Вторият начин на осмисляне предполага, че този път ситуацията е различна – че ИИ притежава уникални качества, които не се свеждат просто до надграждане на човешки способности. В рамките на няколко десетилетия, чрез инженерна намеса, ще се създаде аналог на това, което еволюцията е изграждала в продължение на хилядолетия – а именно човешкия мозък: последния орган, останал за неорганично възпроизвеждане или преосмисляне.“

За „непозната в огледалото“ се говори в едноименен турски сериал. Там сюжетите са доста предсказуеми, очаквани… (Не ме издавайте пред по-възрастните си роднини, дори банални.)

С технологичния свят не е така. Разчитаме на идеите от книгите, на писателите фантасти, на футуролозите (доколкото ги има по нашите ширини и никоя похвала няма да е слаба за доц. Мариана Тодорова, което неуморно води битката за тази наука у нас).

Обаче бъдещето на технологиите идва съвършено неочаквано. Би ли могъл някой да предположи преди социалните мрежи, че точно студентското хрумване на червенокос зубър ще промени начина, по който всички общуваме?

ИИ бъдещето е толкова неочаквано, че клишетата не работят. Трябва разговор. Истински.

7. Бързи, смели, сръчни

„ИИ вече разширява – и ще продължи да разширява – полето на човешкото знание. Но го прави по начини, които не разбираме напълно, и въпреки това приемаме произведеното знание за вярно. Докато един обикновен ученик завършва средно образование за четири години, един ИИ модел днес може лесно да усвои същото количество знания – и много повече – за четири дни. Така скоростта се оказва първото от няколко основни качества, които отличават ИИ от човека и когнитивните му способности.“

„Всичко стана толкова бързо“, може би сте чували, казала костенурката, когато я обрали охлюви.

Така е, скоростта е относителна, питайте и споменатия г-н Айнщайн. И докато ние се присмиваме на неуменията на ИИ да рисува човешки пръсти, идва следващата седмица, а с нея и поредният, по-добър модел. Докато повечето от нас така и все още не умеят да рисуват фотографски точно пръсти, но никой не ни критикува за това неумение.

Скоростта, с която се променя всичко. Скоростта, която просто не е човешка и трябва да се научим, ако не да я управляваме, то поне да я осмисляме.

8. Кутията на късмета

„След като даден модел бъде обучен, той не публикува вътрешната математическа структура, върху която генерира своите изходи, а собствените му създатели остават до голяма степен непросветени за начина, по който тя е изградена. В резултат системите се наричат „черни кутии“. Математическата структура, която стои зад предсказанията за реалността, които машината генерира, остава до голяма степен непрозрачна – дори за създателите на тези модели.“

Все по-трудно намираме обективните измерители, с които да проверим обективно уменията на поредния ИИ модел, който обещава да е по-добър и различен. Моят „тест на Тюринг“ е прост, нарича се „зрелостен изпит по български език и литература“.

Много по-рядко обаче стигаме до момента, в който да се запитаме защо даден ИИ отговаря по определен начин? Допълнителен щрих тук е идеята, че OpenAI планират да включат различни форми на реклама в опит да монетизират изкуствения интелект. Вече е ясно, че огромна част от потребителите (сред които съм и аз) вече използват основно любимия си ИИ, за да потърсят информация по дадена тема.

По този начин обаче лесно можем да насложим проблемите от изкривената информация на онлайн търсачките, от балоните, в които ни затвориха социалните мрежи, като ги мултиплицираме с огромните възможности на изкуствения интелект.

Прозрачност без граници!

9. Не човек

„Ако машинният интелект продължи да се отдалечава от модела на човешкия ум, той ще започне да се възприема не като отражение на човечеството, а като негов заместител. Вярно е, че за определен преходен период той може просто да разшири обхвата на дейности, които днес причисляваме към „човешките способности“, но след даден момент тези нови способности могат да заменят човешките, поставяйки под въпрос самото разбиране за човешко съвършенство и налагайки неговата цялостна преоценка.“

Да, колкото и да прилича на човек, той не е човек. Дали не може да бъде нещо повече? Или нещо, което поне се смята за нещо повече?

Пък после може и да провери кой какво е казал за него някога си…

Василискът на Роко.

Бррр.

10. Коренно нов подход

„Човешката политика е както достойна за възхищение, така и за осъждане, защото е духовно близка до личната ни, ежедневна по­литика. Макар Наполеон да е покорил Европа, той не успява да по­кори сърцето на Жозефин. Ревността между Джон Адамс и Томас Джеферсън е толкова позната, колкото и обикновените ни семейни спорове. „Война и мир“ на Толстой не е по-малко роман за вели­ките исторически събития, отколкото за отделните човешки съдби, които ги изграждат.“

Оттук г-н Кисинджър и съавтори извеждат идеята, че мястото на ИИ спокойно може да бъде в политиката и международните отношения като безпристрастен, хладнокръвен и мъдър фактор.

Със сигурност би бил по-успешен и от най-доброто, което сме виждали в собствения си, български парламент. Дали пък наистина не може технологиите да регулират международните отношения, след като ние, хората от „развития Запад“, се провалихме след прословутия „край на историята“?

11. Късно е, либе

„Изкуственият интелект е неразличаваща, системно дестабили­зираща сила – и неговото появяване, ако не бъде контролирано, е еднакво опасно както за създателите му, така и за потребителите. Именно това може да подтикне иначе неотстъпчиви съперници да разгледат възможността за иначе немислими споразумения. Вярва­ме, че в сфери като дипломация и отбрана част от рисковете, произ­тичащи от ИИ, могат да бъдат управлявани успешно само от самия ИИ. Кутията на Пандора вече е отворена – и дори да не беше, пол­зите от ИИ все пак изглеждат по-големи от рисковете.“

Моля, прочетете го отново. Благодарен съм на хилядите хора, които са писали коментари под публикации на Дигитални истории в социалните мрежи за това как мразят ИИ, технологията е противочовешка, ужасяваща, заедно с лични мнения, вклюващи и мен.

Определено виждам повече логика и градивност в тази гледна точка, отколкото в другата – да се правим, че изкуствения интелект го няма и нищо особено не се случва със следващото поколение технологии.

12. Държава на духа

„Изправени пред възприеманата заплаха от автоматизацията на човешкия труд, много анализатори днес се фокусират върху на­стъпването на нова духовна криза. В свят на споделено изобилие, твърдят те, ние бихме станали като безотговорни победители от лотарията, обзети от хедонизма на излишествата. От наша гледна точка обаче това е перспектива на привилегиите. За да се оцени изключителното благо, което изкуственият интелект би могъл да донесе на милиарди хора – включително на онези, които към мо­мента са лишени от достъп до финансови ресурси, основни жизнени потребности и свободно време, необходимо за участие в подобни дискусии, – е достатъчно да се съпостави тяхното положение с това на техните предшественици: поколения бащи, обслужващи при­митивни машини; майки, борещи се в полетата с оскъдна реколта; деца, лишени от своето детство в условията на експлоатационен труд. Ако утре сутрин всеки човек получи възможност да спре да работи, смятаме, че мнозинството би избрало това.“

Безусловен базов доход?!

Това ли казвате, г-н Кисинджър, или ще трябва да изчакам някой модел да ми позволи да си поговорим „на живо“?

Това казвате. Пазарът на труда вече е тектонично разместен от промените на технологиите, казвам ви го като човек, който неотдавна остана без работа точно и директно заради навлизането на изкуствения интелект.

Както пък добавя г-н Харари, ако ръст на безработицата в Германия с малък процент през 30-те е довел до най-човеконенавистния режим в човешката история…, дупе да ни е яко (да, точният цитат не е от г-н Харари, не е и от ChatGPT).

Така де, няма проблеми, всичко си е същото. Изчезват едни професии, идват други… Кой е г-н Кисинджър, че да ни изхвърли от мисловната зона на удобството?

13. Любимец 13

„Всъщност не само че опитите за създаване на такива „мозъч­но-компютърни интерфейси“ могат да подпомогнат интеграцията ни с машините, но и невроинженерството може да се окаже само междинен етап по пътя към истинска симбиоза. За постигане на реално равноправие с ИИ може да са необходими стъпки, излиза­щи извън индивидуалната модификация. Например едно общество би могло да се стреми да създаде наследствена генетична линия, проектирана специално за съвместна работа с ИИ. Подобни нови връзки между биологичния и изкуствения интелект могат да заобиколят – или да оставят в миналото – човешката неефективност в усвояването и предаването на знания.“

Чест му прави на г-н Кисинджър, че не дава отговори. Би могъл, не е толкова трудно след 100 години земен опит, част от който е в сближаването на противоречащи си глобални сили, в пряка дейност за регулирането на ядрените оръжия, нещо, което му признава през 60-те г-н Опенхаймер.

Не, той и колегите му съавтори поставят големите въпроси, точно тези, заради които го има този сайт.

Признавам, трансхуманизмът за мен е страховито направление, което си представя човечеството да се развие в следващ, различен вид. При него, много логично е да го помислим, слабите ще станат ненужни. Нещо, което днес (малко наивно) смятаме, че не е така – поне докато не се огледаме в ставащото из по-драматичните червени точки по света.

Докато не се озовем и ние в някоя червена точка. Или пък такава стане цялата планетаа, в която ИИ е постигнал следващия преход, който изглежда толкова плашещ, че за него предупреждават безброй авторитети от различни области. Независимо дали ще го наречем „сингулярност“, „генерален ИИ“ или просто… точката, след която не знаем какво ще последва.

Извинявайте, че ще се повторя повече пъти дори от ChatGPT, когато „разбере“, че харесвате нещо.

Време е да започнем този разговор!

14. Генезис… слочаеност?!

„Докато някои хора може да възприемат този момент като по­следен акт на човечеството, ние виждаме в него ново начало. Ци­кълът на сътворението – технологичен, биологичен, социологичен, политически – навлиза в нова фаза. Тази фаза може да се развие под нови парадигми на логиката, вярата и времето. С трезв оптимизъм, нека посрещнем нейния генезис.“

И все пак засега… е време да го завършим, разговора. Временно.

Но защо ли са си кръстили книгата „Генезис“ тримата другари? „Ново начало“, ново зараждане на цивилизацията, така ни го обясняват.

Преди няколко седмици беше официално представена нова мащабна американска програма за развитието на ИИ. Президентът Тръмп обяви с патос, че за първи път огромни масиви научна информация ще бъдат отворени в следващата стъпка, която ще помогне за огромния напредък в използването на изкуствения интелект във важни сфери като опознаването на Космоса, на Земята, на човешкото тяло.

Можете ли да познаете как се казва програмата на г-н Тръмп?

Иван Хаджийски е известен с оптимистичната си теория за българския народ. Дали оптимизмът му се оказа оправдан с течение на десетилетията, няма да се опитвам да отговарям, както не се опитват да затварят въпросите авторите на „Генезис“.

Дали ще се изпълни оптимистичната теория за човека и ИИ на г-н Кисинджър?

Вече не зависи от него. Само от нас. От всеки от нас. Все още.