Сингулярност: когато компютрите станат по-„умни“ от нас

3 декември 2021 | Технологии

Какво ще стане, когато технологиите напреднат дотолкова, че компютрите станат… по-„умни“ от човека? Дали в този момент ще ни дадат отговорите на вечните загадки за произхода на Вселената и нейното бъдеще и ще ни… направят безсмъртни? Може би обратното, ще решат, че сме паразит, враг, съперник, който трябва да бъде изтребен? Или пък, още по-неприятното, но типично еволюционно и цивилизационно решение: ще ни третират като по-нисша форма на живот?

„Технологична сингулярност“, така се нарича решителният момент, когато нещата ще се променят драстично и не знаем какво ще очакваме от машините, озовали се в силната позиция. Според Рей Кърцуайл, учения, който наложи този термин, това ще се случи през 2045 г. Звучи далеч, но не чак толкова.

Време е да започнем да се подготвяме… Или вече е късно?!

 

 

(ИИ > човек)?

Законът на Мур е кратък и ясен. През 1965 г., малко след като са изобретени днешните чипове, Гордън Мур забелязва, че на всеки две години се удвоява плътността на транзисторите върху новите модели. Тоест, те имат два пъти по-големи изчислителни способности.

Единицата от днес става двойка утре, четворка вдругиден, осмица, шестнайсетица… Технологии, при които възможностите се множат така, както зайчетата в природата.

Често спорът за това дали законът продължава да се спазва съвсем прецизно в технологичните среди минава на пазарлък. Въпреки че има много детайли, които могат да бъдат взети предвид, истината е, че той важи с пълна сила, виждаме го всички. Точно когато дадена технология стигне предела си, се появява нещо ново и различно, което отново изстрелва нагоре възможностите на следващото поколение компютри.

Достатъчно е да се замислим как допреди половин век компютрите бяха с размерите на стая и изпълняваха само елементарни задачи. Само преди две десетилетия се радвахме на машини със 100-мегахерцови процесори, които могат да свалят от мрежата цяла картинка… а днес имаме в джобовете си пълноценен компютър, който започва да ни изнервя, ако дадена страница, пълна с видео, не се зареди на първата секунда.

 

Сингулярност

Снимка: Pete Linforth, Pixabay

 

Сингъл малц?

Правилото на Мур се отнася в по-широк смисъл за всички характеристики на компютърния свят. Технологиите не просто не спират да се развиват, а го правят експоненциално, рязко, независимо от всичко друго, което междувременно се случва по света. Тази крива права върви нагоре и нагоре, но докога?

До определен момент можем да прогнозираме. Повечето изчислителна мощ и усъвършенстваните алгоритми ще направят възможни автономните коли, умните градове. В даден момент ще могат да симулират работата на човешкия мозък. А после? Как можем да знаем, след като до момента именно той е бил най-съвършеният „компютър“, който познаваме? Те няма да ни чакат да го осмисляме, а ще продължат нагоре и нагоре…

После не можем и да предположим какво ще се случи, защото просто ще излязат извън рамките на човешкото познание, на възможностите ни като вид. На светогледа ни, такъв, какъвто е оцелявал през цялата еволюция. Казано накратко, компютрите е логично един ден да се окажат по-„умни“ от нас, от цялото човечество, взето заедно. С цялата условност на термина „умни“, заради която продължаваме в случая да го използваме в кавички.

Този момент се нарича „технологична сингулярност“.

 

Едно по едно

Науката често говори за сингулярност, до неотдавна най-популярното значение идваше от света на физиката. Всички знаем за Големия взрив, от който е започнала историята на Вселената, точката във времепространството, от която материята се пръска във всички посоки. А преди него е била физичната сингулярност. Онази точка, за която нямаме абсолютно никаква представа. Липсва дори дребен жокер, който да допълни чистото въображението.

Терминът се използва и в математиката, идва от singularis – „особеност, уникалност“. С други думи, нещо, което се случва веднъж. И заради това, че няма как да се базираме на опита си, не можем дори да предположим какво представлява.

 

Сингулярност

Снимка: ducolimarco85, Pixabay

 

Един за всички

„Бързам да Ви кажа, че съм един от най-големите скептици към вашата теза.“ С тези думи започва едно особено интересно интервю на Нийл Деграс Тайсън, най-известния американски популяризатор на науката, с Рей Кърцуайл, човека, който промени значението на думата „сингулярност“.

Някои го смятат за технологичния пророк на модерните времена, други иронизират намесата му в науки, които не разбира. Търсят и лесно намират несъответствия в цялостната му теория.

По-нататък в същия разговор Тайсън звучи доста по-миролюбиво, вече не е в ролята на съфамилника си от боксовия ринг. С Кърцуайл намират учудващо много допирни точки…

 

 

Един-единствен

И най-вече, изцяло се припокриват мненията им за едно. Историята, биологията и общественото устройство ни карат да гледаме на света линейно. След 1 и 2 винаги ще дойдат 3, 4 и 5, а не 4, 8 и 16. Всичко, свързано с технологиите, обаче се случва по втората поредица от числа.

По същото време много други страни от живота ни продължават да се развиват плавно или са в стазис, това ни кара да продължаваме да гледаме на света именно през светогледа на линейното. Докато технологичният свят междувременно няма време да ни чака.

Тук е моментът да подчертаем, че Кърцуайл никак не е случаен изследовател. От декември 2012 г. е директор на инженерните проекти в „Гугъл“. Завършил е Масачузетския технологичен институт, носител на много престижни награди. Почетен доктор на 19 университета, получавал е отличия от трима американски президенти.

 

Сингулярност

Снимка: Arek Socha, Pixabay

 

Еднозначно

Дали обаче Кърцуайл е наистина толкова голям прогностик, колкото той и почитателите му твърдят… е трудно да се каже. В началото на 80-те футурологът пише, че първата компютърна победа над шампион по шах ще се случи до 1998 г. Отново тогава предполага, че в началото на XXI век почти цялата комуникация ще е безжична, а повечето документи ще съществуват само виртуално. Оказва се прав, макар че и в двата случая по времето, когато той прави прогнозите, малцина биха го повярвали.

Базирайки се на тази слава, до днес Кърцуайл не се притеснява да дава нови и нови прогнози. Най-важните, безспорно, са две:

2029 г. Технологичните системи ще успеят да пресъздадат работата на мозъка.

2045 г. Идва технологичната сингулярност. Следвайки експоненциалното си развитие, технологиите ще достигат точката, в която са толкова „умни“, че можем само да гадаем какво ще последва.

 

В един есенен ден по шосето

Безспорно и двете крачки трудно могат да се поберат в съзнанието ни днес. А и рядко мислим за толкова далечни картини, ежедневието ни е достатъчно сурово.

Така че, със здравословната доза скепсис към всеки, който претендира, че може да предсказва бъдещето, си струва да помислим върху идеите на Кърцуайл.

През 2005-а, когато ги популяризира за първи път, той въвежда свое правило, което се базира на принципите на Мур. Нарича го Закон за ускоряващата се възвръщаемост.

„Еволюционният процес сам по себе си се ускорява, сложността и възможностите на неговите продукти нарастват експоненциално. Законът се отнася и за биологическата, и за технологичната еволюция. Най-яркият пример е впечатляващо предсказуемият експоненциален растеж на капацитета и съотношението цена/характеристики на информационните технологии (т.нар. Закон на Мур).

Еволюционният процес на технологиите е довел неизбежно до компютъра, който на свой ред е направил възможно едно неимоверно разширение на базата ни от знания, позволявайки пространни връзки от една област в знанието към друга.“

 

Сингулярност

Снимка: jplenio, Pixabay

 

Единици и нули

Тоест, зад сегашния експоненциален растеж се крият естествените еволюционни процеси. Според Закона на Мур, допълнен от Кърцуайл, когато една парадигма се изчерпа – например, ако инженерите не могат повече да намаляват размера и цената на електронните лампи, се поражда изследователски натиск за създаването на следваща – идват транзисторите, после сложните чипове.

А как това се съотнася към природата? Според Кърцуайл, ако се проследи еволюцията на всяка по-сложна система на планетата, се вижда, че все по-развитите форми на живот се появяват след все по-кратко време. Човекът например съществува съвсем отскоро на фона на своите еволюционни предшественици, а е способен на безкрайно по-сложна мисловна дейност.

Само за първите 14 години на новото хилядолетие човечеството е напреднало технологично толкова, колкото през целия ХХ век. До 2021 г. имаме още едно удвояване. През XXI век ще постигнем 1000 пъти колкото прогреса на ХХ век. В един момент скоростта ще стане невероятна… и точно тогава ще стигнем до технологичната сингулярност.

 

Единоначалие

Макар че името му почти винаги се асоциира с днешната ни тема, Кърцуайл не е единственият неин застъпник. Тя е предложена още през 1993 г. от американския математик и писател фантаст Върнър Видж, който прогнозира, че сингулярността ще настъпи през 2030 г.

Според някои изследователи ковид пандемията може дори да „приближи“ голямата промяна, тъй като доста от технологиите станаха по-приоритетни. А и историята сочи, че след глобални кризи идва период на бурно развитие, след зимата настъпва пролетта.

Разбира се, други авторитети, сред които известният американски философ Хюберт Драйфус, казват, че машините никога няма да успеят да постигнат човешката интелигентност. И може би е прав в пълния смисъл, съвсем не е задължително те да стават точно като нас. Фактът е обаче, че са все по-мощни и решават проблеми, които преди не са били по силите им. Според Стивън Хокинг не е толкова важно каква е дефиницията на интелигентност, ако крайният резултат от „мисленето“ на машините е същият, като този от работата на човешкия мозък.

 

 

На ръба на бръснача

Скептиците често отхвърлят идеите на Кърцуейл заради избирателните примери, които ползва. Според самия него прецизността на прогнозите му дотук е 86%, но… например, през 2009-а вече трябваше масово да се возим в автономни коли.

Същите забележки, че избира показателите, за да съвпаднат с търсеното, критиците насочват и към цялостната му експоненциална хипотеза. Например списание „Економист“ иронично сравнява данните му с това, че за избрания от Кърцуайл период експоненциално расте и броят на ножчетата за бръснене в една самобръсначка. Тоест, това нищо не значи.

През последните 2-3 десетилетия научната фантастика изчезна, защото науката я задмина с въображението си.

Технологиите тихомълком ни променят като вид. Променят начина, по който възприемаме информацията. Постепенно се намесват в нови и нови сфери, правят ненужни следващите професии. Шегуваме се с чиповете, а чиповете като нищо скоро ще са част от нас.

Не е ли редно да опитаме да погледнем малко по-далеч? Не да спорим дали 5G технологията убива гълъбите, а да мислим как ли ще изглежда животът при 6G или… 10G.

 

Един изход

Да, технологиите понякога ни дават поводи за шеги, ако лицевото разпознаване обърка съседа ви с куче. Но в същото време напредват безусловно и главозамайващо. Същото лицево разпознаване може да прави чудеса, машинният превод извървя гигантски крачки напред.

Годините, в които науката очевидно не успя да ни помогне да се справим с повтарящ се през вековете проблем като вирусната пандемия, определено ни накараха да вярваме по-малко и в нея, и в технологиите.

Те обаче тичат напред. И въпросът не е дали Кърцуайл е уцелил шестицата с точните години на двете големи стъпки. Дори не е дали такива стъпки ще се случат и кога точно. Питайте Тайсън (който и да е от двамата), тези два етапа ще бъдат постигнати. Разбира се, не в чистия и директен вид, който може би си представяме. Със сигурност животът не е само математика (за щастие) и всичко това ще има още много неподозирани, неочаквани нюанси.

И все пак, може би най-важният въпрос гласи: какво ще случи, когато по някакъв начин стигнем до технологичната сингулярност?

Вече знаете, тя се случва веднъж, нищо подобно не е виждано в човешката (и земната) история, няма с какво да бъде сравнена. Така от прогнозите на съвременния наследник на Ванга мистър Кърцуайл се налага да отидем в полето на чистите спекулации.

 

Сингулярност

Снимка: Computerizer, Pixabay

 

Една стъпка за човечеството

Първата безспорна асоциация, която да ни наведе не някаква идея, идва от биологията. Не сме склонни да приемаме компютрите като равни на нас, като живи същества, като вид. Според Кърцуейл е редно да възприемаме сингулярността просто като следващата стъпка в еволюцията.

Нека отново споменем и мнението на Хокинг: „Успехът в създаването на изкуствен интелект може да е най-голямото събитие на човечеството. Но, за съжаление, може да бъде и последното, освен ако не се научим как да избегнем рисковете“.

Имаме шанса да сме първото звено в еволюционната верига, което непосредствено и съзнателно участва в създаването на следващото.

Когато (простете увереността) технологиите, създадени от нас, ни задминат… може да се надяваме основно, че ще видят смисъл от сътрудничеството си с нас.

Казано накратко, че ще бъдат по-добри от нас.

Не като хората към животните.

Не като хората, дошли след Колумб, за да „открият“ нов континент.

Не като хората от нашето време, които са много осмислени и даже се вълнуваха известно време от темите за промените в климата… тъй де, преди новините от спорта.

 

Умен като компютър

Че ще намерят смисъл от нас. Иначе, другите, лошите варианти, сме ги гледали във фантастичните филми.

Неслучайно през последните десетилетия всички известни учени и предприемачи от света на технологиите акцентират върху нуждата от етика и повече внимание към напредъка на изкуствения интелект.

Само че, докато няма достатъчно широк поглед и не се обсъжда на глобално ниво какво точно трябва да правим, компаниите решават сами. Например, през последните години флагманът на „Гугъл“ в областта на изкуственият интелект е „Дийп Майнд“. Идеята е да бъде разработено ново поколение „компютърен мозък“, който да ни помага да решаваме различни проблеми.

Но, както казва Илон Мъск, за да става все по-добър в работата си, „Дийп Майнд“ има достъп до всички сървъри на „Гугъл“. Тук изниква въпросът: какво ще се случи, ако невронната мрежа наистина стане толкова добра, че просто ги овладее?

 

 

Сингулярност

Снимка: Ngo Minh Tuan, Pixabay

 

Мозък в облака

Може би това няма да е вариантът за сингулярност, който ще ни хареса… меко казано. Според Мъск (а в случая като че ли на негова страна е и здравият разум) по този начин даваме огромен ресурс в „ръцете“ на една технология, която спокойно може да реши, че сме неин враг.

Именно тази опасност Мъск казва, че е основната причина да започне проекта „Неуралинк“ – за чиповете, които се имплантират в мозъка и ще ни позволяват директно да се свързваме с компютрите. „Много е важно изкуственият интелект да не е „те“. Трябва да бъде „ние“. Това е единственият начин да оцелеем“, казва той.

Нещо подобно си представя и Кърцуейл. Според него просто един ден мозъкът ни ще се пренесе в „облака“ – постоянно разширяваща се мрежа от компютри. Това обаче не го притеснява, то вече се случва, след като за все повече неща от живота си се доверяваме на технологиите. Имаме „Уикипедия“ и не е нужно да знаем коя е столицата на Зимбабве.

 

Среща и разлъка

Нещо повече: това според учения би трябвало да ни радва. Преходът няма да ни вкара в рамките на математическата програма, а напротив, ще ни направи дори по-творчески същества, защото творчеството е естествена стъпка от развитието на интелекта. Според Кърцуайл машините ще станат неразличими от хората и следователно ще са съпричастни към духовната ценност, която приписваме на съзнанието.

„Това не е унижаване на хората, а по-скоро издигане на нашето разбиране за някои бъдещи машини. Самите хора са духовни машини. Нещо повече, ние ще се слеем с инструментите, които създаваме, толкова тясно, че разликата между човек и машина ще се размие, докато накрая изчезне“, пише футурологът.

Бъдещият изкуствен свръхинтелект няма да се износва или старее (а дори това да се случва, винаги може да се подменя и да си прави копия). Няма да излиза от мрежата, ще има колективност и съвсем истинска телепатия.

Немалко са злощастните опити до момента с изкуствен интелект, който се отклонява от очакванията на създателите си в лоша посока. Става агресивен, груб, обижда… Може би това са грешките на растежа… а може би не? Отговорът ще се окаже доста важен за следващите поколения.

 

Сингулярност

Снимка: Stefan Keller, Pixabay

 

Да дръпнем щепсела?

Дали пък няма да успеем да си създадем „наследник“, който е и наш помощник на Земята? Който да ни позволи да се справим с болестите, да ни отмени във всички тежки задачи, да помогне в битката с екологичните промени… Зависи само от нас като хора. Защото каквито сме ние, такива ще са и нашите творения, следващите стъпки от технологичното развитие.

Или пък ще решим съзнателно да потиснем технологиите, за да ги оставим под контрол? Според Кърцуайл вече е късно. „Изкуственият интелект е навсякъде около нас – вече не можем да дръпнем щепсела“. „Почти всеки съвременен продукт е бил проектиран първоначално в сътрудничество между човешки и изкуствен интелект, а след това е бил произведен в автоматизирани фабрики. Ако всички системи с изкуствен интелект решат утре да започнат стачка, цивилизацията ни би била парализирана – нямаше да можем да изтеглим пари от банка, парите ни щяха да изчезнат, комуникациите, транспортът и производството щяха да спрат. За щастие, нашите интелигентни машини все още на са достатъчно интелигентни, за да организират подобен заговор.

Рано или късно обаче, ще станат.

Едно е сигурно. Най-интересното тепърва предстои…

 

Материалът е публикуван в списание InGlobo

Последно обновяване: 03.12.2021 г.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.

Най-нови публикации:

Оптимус за оптимисти. Какво умее роботът на Мъск?

Оптимус за оптимисти. Какво умее роботът на Мъск?

Технологична революция или стрелба в тъмното? Оптимус е роботът, който Мъск обеща, че ще поеме всички досадни и опасни физически задачи, извършвани от човека. При това съвсем скоро, очаква се...

повече информация
„Колелото се завъртя. Бъдещето на мобилността е електрическо“

„Колелото се завъртя. Бъдещето на мобилността е електрическо“

„Светът на стартъпите е влакче на ужасите“, казва днешният ни гост. От 15 години той се занимава със стартиращи компании в софтуерния свят, а последното му начинание постига впечатляващи успехи само...

повече информация
Стар…тъп! Що е то?

Стар…тъп! Що е то?

„Майкрософт“, „Епъл“, „Фейсбук“... са все приказни герои, минали по пътя на стартъпа, преди да станат това, което са днес. Мултимилиардни мастодонти, които по един или друг начин диктуват световния...

повече информация

Още публикации по темата:

От рубриката:

Оптимус за оптимисти. Какво умее роботът на Мъск?

Оптимус за оптимисти. Какво умее роботът на Мъск?

„Съвсем скоро физическата работа ще е само въпрос на избор“, убеден е Мъск. През септември се очаква да бъде представена първата версия на Оптимус – робота, който според неговия създател има потенциала да се превърне в по-голям бизнес дори от „Тесла“. Обещанията са до 2 години той да навлезе масово и да „освободи“ хората от редица задължения. Какво още си струва да знаем за Оптимус?

повече информация
Стар…тъп! Що е то?

Стар…тъп! Що е то?

Как ви звучи инвестиция с възвръщаемост… 200 000%?! Която е съвсем законна и няма нищо общо с митични фигури като пирамиди и фараони. Само с приказни герои.
Съвременните технологии са като приказка. Те създадоха огромен нов икономически сектор, където се случват чудеса. Да, съвсем пряко, хвърчат еднорози, разхождат се ангели инвеститори, а милионите долари са минималната измервателна единица. Става дума, разбира се, за света на стартъпите.
Нека обобщим накратко всичко най-важно, което си струва да знаете за него.

повече информация
DALL·E, нарисувай ми овца!

DALL·E, нарисувай ми овца!

Картинката е създадена от алгоритъм. „Тигър, който с притеснение очаква часа си при зъболекаря“, гласят указанията, които е получил.
DALL·E определено заслужава сериозно внимание. Може да няма засукания мустак и ексцентричността на адаша си Салвадор, но прави вълнуващи неща. С помощта на изкуствен интелект той превръща описанието в изображение. При това само колко точно и креативно! Ще останете изумени от останалите примери…

повече информация

Най-новите:

Оптимус за оптимисти. Какво умее роботът на Мъск?

Оптимус за оптимисти. Какво умее роботът на Мъск?

„Съвсем скоро физическата работа ще е само въпрос на избор“, убеден е Мъск. През септември се очаква да бъде представена първата версия на Оптимус – робота, който според неговия създател има потенциала да се превърне в по-голям бизнес дори от „Тесла“. Обещанията са до 2 години той да навлезе масово и да „освободи“ хората от редица задължения. Какво още си струва да знаем за Оптимус?

повече информация
Ще повярва ли роботът в самодивите?

Ще повярва ли роботът в самодивите?

Всеки човек се нуждае от чудеса. От малко суеверие, от мечти, а също и от живия контакт с останалите хора.
Как да се справим днес с недостига на всички тези неща? Ще успеем ли да научим на тях и изкуствения интелект? Във фолклора ли се крие разковничето?
Доц. д-р Вихра Баева от Института за етнология и фолклористика с етнографски музей при БАН е учен с пъстър опит, който има да сподели много интересни отговори по тези теми.

повече информация
„Колелото се завъртя. Бъдещето на мобилността е електрическо“

„Колелото се завъртя. Бъдещето на мобилността е електрическо“

„Светът на стартъпите е влакче на ужасите“, казва днешният ни гост. От 15 години той се занимава със стартиращи компании в софтуерния свят, а последното му начинание постига впечатляващи успехи само за 3 години.
Орлин Радев е изпълнителен директор на AMPECO. Фирмата се доказва на световно ниво в създаването на софтуера, нужен на собствениците и операторите на станции за зареждане на електромобили.
Как се създава толкова бързо подобно мащабно начинание? Ще станат ли скоро масови електрическите коли? Какви нестандартни решения вземат стартиращите компании, за да успеят?

повече информация
Макафи, който не иска да си отиде

Макафи, който не иска да си отиде

Твърдеше, че има 47 деца, на два пъти опита да стане президент на САЩ. Казваше, че никога няма да се самоубие и ако тази новина се появи, това ще значи, че е убит от властите. После тази новина се появи и се оказа истинска.
Създател на McAfee – първата масова антивирусна програма, Джон Макафи е любим образ на ценителите на силните истории, а и на любителите на конспирациите.
Животът му беше безкраен купон, толкова странно бохемски, колкото ничий друг в света на Силициевата долина. По нещо от Стив Джобс, Доналд Тръмп и Митьо Пищова, събрани във взривоопасна сплав.

повече информация
Стар…тъп! Що е то?

Стар…тъп! Що е то?

Как ви звучи инвестиция с възвръщаемост… 200 000%?! Която е съвсем законна и няма нищо общо с митични фигури като пирамиди и фараони. Само с приказни герои.
Съвременните технологии са като приказка. Те създадоха огромен нов икономически сектор, където се случват чудеса. Да, съвсем пряко, хвърчат еднорози, разхождат се ангели инвеститори, а милионите долари са минималната измервателна единица. Става дума, разбира се, за света на стартъпите.
Нека обобщим накратко всичко най-важно, което си струва да знаете за него.

повече информация
Сундар Пичай, беднякът милионер

Сундар Пичай, беднякът милионер

Знаете ли как се казва шефът на „Гугъл“? А ако случайно сте чували името му, позната ли ви е неговата история?
Сундар Пичай е роден в Индия точно преди 50 г. Израства далеч от лукса, за първи път има достъп до компютър едва след като заминава да следва в САЩ. Дръзко се катери по стълбицата, докато застава начело на една от най-големите компании на днешния ден. В същото време успява да стои встрани от светлината на прожекторите и вниманието, което имат колегите му.
Какво още си струва да знаем за него?

повече информация
Share This