Какво ще стане, когато технологиите напреднат дотолкова, че компютрите станат… по-„умни“ от човека? Дали в този момент ще ни дадат отговорите на вечните загадки за произхода на Вселената и нейното бъдеще и ще ни… направят безсмъртни? Може би обратното, ще решат, че сме паразит, враг, съперник, който трябва да бъде изтребен? Или пък, още по-неприятното, но типично еволюционно и цивилизационно решение: ще ни третират като по-нисша форма на живот?

„Технологична сингулярност“, така се нарича решителният момент, когато нещата ще се променят драстично и не знаем какво ще очакваме от машините, озовали се в силната позиция. Според Рей Кърцуайл, учения, който наложи този термин, това ще се случи през 2045 г. Звучи далеч, но не чак толкова.

Време е да започнем да се подготвяме… Или вече е късно?!

Снимка: Possessed Photography, Unsplash

(ИИ > човек)?

Законът на Мур е кратък и ясен. През 1965 г., малко след като са изобретени днешните чипове, Гордън Мур забелязва, че на всеки две години се удвоява плътността на транзисторите върху новите модели. Тоест, те имат два пъти по-големи изчислителни способности.

Единицата от днес става двойка утре, четворка вдругиден, осмица, шестнайсетица… Технологии, при които възможностите се множат така, както зайчетата в природата.

Често спорът за това дали законът продължава да се спазва съвсем прецизно в технологичните среди минава на пазарлък. Въпреки че има много детайли, които могат да бъдат взети предвид, истината е, че той важи с пълна сила, виждаме го всички. Точно когато дадена технология стигне предела си, се появява нещо ново и различно, което отново изстрелва нагоре възможностите на следващото поколение компютри.

Достатъчно е да се замислим как допреди половин век компютрите бяха с размерите на стая и изпълняваха само елементарни задачи. Само преди две десетилетия се радвахме на машини със 100-мегахерцови процесори, които могат да свалят от мрежата цяла картинка… а днес имаме в джобовете си пълноценен компютър, който започва да ни изнервя, ако дадена страница, пълна с видео, не се зареди на първата секунда.

Снимка: Pete Linforth, Pixabay

Сингъл малц?

Правилото на Мур се отнася в по-широк смисъл за всички характеристики на компютърния свят. Технологиите не просто не спират да се развиват, а го правят експоненциално, рязко, независимо от всичко друго, което междувременно се случва по света. Тази крива права върви нагоре и нагоре, но докога?

До определен момент можем да прогнозираме. Повечето изчислителна мощ и усъвършенстваните алгоритми ще направят възможни автономните коли, умните градове. В даден момент ще могат да симулират работата на човешкия мозък. А после? Как можем да знаем, след като до момента именно той е бил най-съвършеният „компютър“, който познаваме? Те няма да ни чакат да го осмисляме, а ще продължат нагоре и нагоре…

После не можем и да предположим какво ще се случи, защото просто ще излязат извън рамките на човешкото познание, на възможностите ни като вид. На светогледа ни, такъв, какъвто е оцелявал през цялата еволюция. Казано накратко, компютрите е логично един ден да се окажат по-„умни“ от нас, от цялото човечество, взето заедно. С цялата условност на термина „умни“, заради която продължаваме в случая да го използваме в кавички.

Този момент се нарича „технологична сингулярност“.

Едно по едно

Науката често говори за сингулярност, до неотдавна най-популярното значение идваше от света на физиката. Всички знаем за Големия взрив, от който е започнала историята на Вселената, точката във времепространството, от която материята се пръска във всички посоки. А преди него е била физичната сингулярност. Онази точка, за която нямаме абсолютно никаква представа. Липсва дори дребен жокер, който да допълни чистото въображението.

Терминът се използва и в математиката, идва от singularis – „особеност, уникалност“. С други думи, нещо, което се случва веднъж. И заради това, че няма как да се базираме на опита си, не можем дори да предположим какво представлява.

Снимка: ducolimarco85, Pixabay

Един за всички

„Бързам да Ви кажа, че съм един от най-големите скептици към вашата теза.“ С тези думи започва едно особено интересно интервю на Нийл Деграс Тайсън, най-известния американски популяризатор на науката, с Рей Кърцуайл, човека, който промени значението на думата „сингулярност“.

Някои го смятат за технологичния пророк на модерните времена, други иронизират намесата му в науки, които не разбира. Търсят и лесно намират несъответствия в цялостната му теория.

По-нататък в същия разговор Тайсън звучи доста по-миролюбиво, вече не е в ролята на съфамилника си от боксовия ринг. С Кърцуайл намират учудващо много допирни точки…

Един-единствен

И най-вече, изцяло се припокриват мненията им за едно. Историята, биологията и общественото устройство ни карат да гледаме на света линейно. След 1 и 2 винаги ще дойдат 3, 4 и 5, а не 4, 8 и 16. Всичко, свързано с технологиите, обаче се случва по втората поредица от числа.

По същото време много други страни от живота ни продължават да се развиват плавно или са в стазис, това ни кара да продължаваме да гледаме на света именно през светогледа на линейното. Докато технологичният свят междувременно няма време да ни чака.

Тук е моментът да подчертаем, че Кърцуайл никак не е случаен изследовател. От декември 2012 г. е директор на инженерните проекти в „Гугъл“. Завършил е Масачузетския технологичен институт, носител на много престижни награди. Почетен доктор на 19 университета, получавал е отличия от трима американски президенти.

Снимка: Arek Socha, Pixabay

Еднозначно

Дали обаче Кърцуайл е наистина толкова голям прогностик, колкото той и почитателите му твърдят… е трудно да се каже. В началото на 80-те футурологът пише, че първата компютърна победа над шампион по шах ще се случи до 1998 г. Отново тогава предполага, че в началото на XXI век почти цялата комуникация ще е безжична, а повечето документи ще съществуват само виртуално. Оказва се прав, макар че и в двата случая по времето, когато той прави прогнозите, малцина биха го повярвали.

Базирайки се на тази слава, до днес Кърцуайл не се притеснява да дава нови и нови прогнози. Най-важните, безспорно, са две:

2029 г. Технологичните системи ще успеят да пресъздадат работата на мозъка.

2045 г. Идва технологичната сингулярност. Следвайки експоненциалното си развитие, технологиите ще достигат точката, в която са толкова „умни“, че можем само да гадаем какво ще последва.

В един есенен ден по шосето

Безспорно и двете крачки трудно могат да се поберат в съзнанието ни днес. А и рядко мислим за толкова далечни картини, ежедневието ни е достатъчно сурово.

Така че, със здравословната доза скепсис към всеки, който претендира, че може да предсказва бъдещето, си струва да помислим върху идеите на Кърцуайл.

През 2005-а, когато ги популяризира за първи път, той въвежда свое правило, което се базира на принципите на Мур. Нарича го Закон за ускоряващата се възвръщаемост.

„Еволюционният процес сам по себе си се ускорява, сложността и възможностите на неговите продукти нарастват експоненциално. Законът се отнася и за биологическата, и за технологичната еволюция. Най-яркият пример е впечатляващо предсказуемият експоненциален растеж на капацитета и съотношението цена/характеристики на информационните технологии (т.нар. Закон на Мур).

Еволюционният процес на технологиите е довел неизбежно до компютъра, който на свой ред е направил възможно едно неимоверно разширение на базата ни от знания, позволявайки пространни връзки от една област в знанието към друга.“

Снимка: jplenio, Pixabay

Единици и нули

Тоест, зад сегашния експоненциален растеж се крият естествените еволюционни процеси. Според Закона на Мур, допълнен от Кърцуайл, когато една парадигма се изчерпа – например, ако инженерите не могат повече да намаляват размера и цената на електронните лампи, се поражда изследователски натиск за създаването на следваща – идват транзисторите, после сложните чипове.

А как това се съотнася към природата? Според Кърцуайл, ако се проследи еволюцията на всяка по-сложна система на планетата, се вижда, че все по-развитите форми на живот се появяват след все по-кратко време. Човекът например съществува съвсем отскоро на фона на своите еволюционни предшественици, а е способен на безкрайно по-сложна мисловна дейност.

Само за първите 14 години на новото хилядолетие човечеството е напреднало технологично толкова, колкото през целия ХХ век. До 2021 г. имаме още едно удвояване. През XXI век ще постигнем 1000 пъти колкото прогреса на ХХ век. В един момент скоростта ще стане невероятна… и точно тогава ще стигнем до технологичната сингулярност.

Единоначалие

Макар че името му почти винаги се асоциира с днешната ни тема, Кърцуайл не е единственият неин застъпник. Тя е предложена още през 1993 г. от американския математик и писател фантаст Върнър Видж, който прогнозира, че сингулярността ще настъпи през 2030 г.

Според някои изследователи ковид пандемията може дори да „приближи“ голямата промяна, тъй като доста от технологиите станаха по-приоритетни. А и историята сочи, че след глобални кризи идва период на бурно развитие, след зимата настъпва пролетта.

Разбира се, други авторитети, сред които известният американски философ Хюберт Драйфус, казват, че машините никога няма да успеят да постигнат човешката интелигентност. И може би е прав в пълния смисъл, съвсем не е задължително те да стават точно като нас. Фактът е обаче, че са все по-мощни и решават проблеми, които преди не са били по силите им. Според Стивън Хокинг не е толкова важно каква е дефиницията на интелигентност, ако крайният резултат от „мисленето“ на машините е същият, като този от работата на човешкия мозък.

Снимка: Alexander Antropov, Pixabay

На ръба на бръснача

Скептиците често отхвърлят идеите на Кърцуейл заради избирателните примери, които ползва. Според самия него прецизността на прогнозите му дотук е 86%, но… например, през 2009-а вече трябваше масово да се возим в автономни коли.

Същите забележки, че избира показателите, за да съвпаднат с търсеното, критиците насочват и към цялостната му експоненциална хипотеза. Например списание „Економист“ иронично сравнява данните му с това, че за избрания от Кърцуайл период експоненциално расте и броят на ножчетата за бръснене в една самобръсначка. Тоест, това нищо не значи.

През последните 2-3 десетилетия научната фантастика изчезна, защото науката я задмина с въображението си.

Технологиите тихомълком ни променят като вид. Променят начина, по който възприемаме информацията. Постепенно се намесват в нови и нови сфери, правят ненужни следващите професии. Шегуваме се с чиповете, а чиповете като нищо скоро ще са част от нас.

Не е ли редно да опитаме да погледнем малко по-далеч? Не да спорим дали 5G технологията убива гълъбите, а да мислим как ли ще изглежда животът при 6G или… 10G.

Един изход

Да, технологиите понякога ни дават поводи за шеги, ако лицевото разпознаване обърка съседа ви с куче. Но в същото време напредват безусловно и главозамайващо. Същото лицево разпознаване може да прави чудеса, машинният превод извървя гигантски крачки напред.

Годините, в които науката очевидно не успя да ни помогне да се справим с повтарящ се през вековете проблем като вирусната пандемия, определено ни накараха да вярваме по-малко и в нея, и в технологиите.

Те обаче тичат напред. И въпросът не е дали Кърцуайл е уцелил шестицата с точните години на двете големи стъпки. Дори не е дали такива стъпки ще се случат и кога точно. Питайте Тайсън (който и да е от двамата), тези два етапа ще бъдат постигнати. Разбира се, не в чистия и директен вид, който може би си представяме. Със сигурност животът не е само математика (за щастие) и всичко това ще има още много неподозирани, неочаквани нюанси.

И все пак, може би най-важният въпрос гласи: какво ще случи, когато по някакъв начин стигнем до технологичната сингулярност?

Вече знаете, тя се случва веднъж, нищо подобно не е виждано в човешката (и земната) история, няма с какво да бъде сравнена. Така от прогнозите на съвременния наследник на Ванга мистър Кърцуайл се налага да отидем в полето на чистите спекулации.

Снимка: Computerizer, Pixabay

Една стъпка за човечеството

Първата безспорна асоциация, която да ни наведе не някаква идея, идва от биологията. Не сме склонни да приемаме компютрите като равни на нас, като живи същества, като вид. Според Кърцуейл е редно да възприемаме сингулярността просто като следващата стъпка в еволюцията.

Нека отново споменем и мнението на Хокинг: „Успехът в създаването на изкуствен интелект може да е най-голямото събитие на човечеството. Но, за съжаление, може да бъде и последното, освен ако не се научим как да избегнем рисковете“.

Имаме шанса да сме първото звено в еволюционната верига, което непосредствено и съзнателно участва в създаването на следващото.

Когато (простете увереността) технологиите, създадени от нас, ни задминат… може да се надяваме основно, че ще видят смисъл от сътрудничеството си с нас.

Казано накратко, че ще бъдат по-добри от нас.

Не като хората към животните.

Не като хората, дошли след Колумб, за да „открият“ нов континент.

Не като хората от нашето време, които са много осмислени и даже се вълнуваха известно време от темите за промените в климата… тъй де, преди новините от спорта.

Умен като компютър

Че ще намерят смисъл от нас. Иначе, другите, лошите варианти, сме ги гледали във фантастичните филми.

Неслучайно през последните десетилетия всички известни учени и предприемачи от света на технологиите акцентират върху нуждата от етика и повече внимание към напредъка на изкуствения интелект.

Само че, докато няма достатъчно широк поглед и не се обсъжда на глобално ниво какво точно трябва да правим, компаниите решават сами. Например, през последните години флагманът на „Гугъл“ в областта на изкуственият интелект е „Дийп Майнд“. Идеята е да бъде разработено ново поколение „компютърен мозък“, който да ни помага да решаваме различни проблеми.

Но, както казва Илон Мъск, за да става все по-добър в работата си, „Дийп Майнд“ има достъп до всички сървъри на „Гугъл“. Тук изниква въпросът: какво ще се случи, ако невронната мрежа наистина стане толкова добра, че просто ги овладее?

Снимка: Ngo Minh Tuan, Pixabay

Мозък в облака

Може би това няма да е вариантът за сингулярност, който ще ни хареса… меко казано. Според Мъск (а в случая като че ли на негова страна е и здравият разум) по този начин даваме огромен ресурс в „ръцете“ на една технология, която спокойно може да реши, че сме неин враг.

Именно тази опасност Мъск казва, че е основната причина да започне проекта „Неуралинк“ – за чиповете, които се имплантират в мозъка и ще ни позволяват директно да се свързваме с компютрите. „Много е важно изкуственият интелект да не е „те“. Трябва да бъде „ние“. Това е единственият начин да оцелеем“, казва той.

Нещо подобно си представя и Кърцуейл. Според него просто един ден мозъкът ни ще се пренесе в „облака“ – постоянно разширяваща се мрежа от компютри. Това обаче не го притеснява, то вече се случва, след като за все повече неща от живота си се доверяваме на технологиите. Имаме „Уикипедия“ и не е нужно да знаем коя е столицата на Зимбабве.

Среща и разлъка

Нещо повече: това според учения би трябвало да ни радва. Преходът няма да ни вкара в рамките на математическата програма, а напротив, ще ни направи дори по-творчески същества, защото творчеството е естествена стъпка от развитието на интелекта. Според Кърцуайл машините ще станат неразличими от хората и следователно ще са съпричастни към духовната ценност, която приписваме на съзнанието.

„Това не е унижаване на хората, а по-скоро издигане на нашето разбиране за някои бъдещи машини. Самите хора са духовни машини. Нещо повече, ние ще се слеем с инструментите, които създаваме, толкова тясно, че разликата между човек и машина ще се размие, докато накрая изчезне“, пише футурологът.

Бъдещият изкуствен свръхинтелект няма да се износва или старее (а дори това да се случва, винаги може да се подменя и да си прави копия). Няма да излиза от мрежата, ще има колективност и съвсем истинска телепатия.

Немалко са злощастните опити до момента с изкуствен интелект, който се отклонява от очакванията на създателите си в лоша посока. Става агресивен, груб, обижда… Може би това са грешките на растежа… а може би не? Отговорът ще се окаже доста важен за следващите поколения.

Снимка: Stefan Keller, Pixabay

Да дръпнем щепсела?

Дали пък няма да успеем да си създадем „наследник“, който е и наш помощник на Земята? Който да ни позволи да се справим с болестите, да ни отмени във всички тежки задачи, да помогне в битката с екологичните промени… Зависи само от нас като хора. Защото каквито сме ние, такива ще са и нашите творения, следващите стъпки от технологичното развитие.

Или пък ще решим съзнателно да потиснем технологиите, за да ги оставим под контрол? Според Кърцуайл вече е късно. „Изкуственият интелект е навсякъде около нас – вече не можем да дръпнем щепсела“. „Почти всеки съвременен продукт е бил проектиран първоначално в сътрудничество между човешки и изкуствен интелект, а след това е бил произведен в автоматизирани фабрики. Ако всички системи с изкуствен интелект решат утре да започнат стачка, цивилизацията ни би била парализирана – нямаше да можем да изтеглим пари от банка, парите ни щяха да изчезнат, комуникациите, транспортът и производството щяха да спрат. За щастие, нашите интелигентни машини все още на са достатъчно интелигентни, за да организират подобен заговор.“

Рано или късно обаче, ще станат.

Едно е сигурно. Най-интересното тепърва предстои…

Материалът е публикуван в списание InGlobo

Последно обновяване: 03.12.2021 г.