Робог. В какво да вярва изкуственият интелект?

апр. 22, 2022 | Технологии

Робог. В какво да вярва изкуственият интелект?

22 април 2022 | Технологии

Ако един ден създадем технология, неразличима от човека, тя… дали ще вярва в Бог? Как ще изглежда нейният Бог? Дали пък няма сама да се опита да се превърне в Бог? Или… сама ще си бъде Бог?

Днес до голяма степен сме оставили религията встрани от секуларисткото ни ежедневие. И все пак, когато гледаме към бъдещето на технологиите, ще се наложи отново да се срещнем, казвам го от гледната точка на атеист.

Изкуственият интелект често е обект на ирония и има защо. Но е факт, че той напредва във все повече направления, при това по начин, който не бихме допуснали. Нещо повече. Всички най-забележими личности на последните две десетилетия призовават по един или друг начин да се погрижим за това как ще изглежда изкуственият интелект тогава, когато наистина ни наподоби или надмине. И колко ли ще е странно и същевременно логично, ако отговорът на тези въпроси се окаже в добрата стара вяра на човека?

 

Снимка: Mohamed Nohassi, Unsplash

 

Не пожелавай робота на ближния

„Изкуственият интелект винаги ще е машина и никога няма да бъде човек“, гласеше мнението на отец Николай Георгиев, с когото поговорихме преди няколко дни. Той обаче беше достатъчно широко скроен, за да отбележи, че това е само лична гледна точка, предопределена основно от погледа на неговото поколение.

„Роботиката може на направи по-добър света, ако е съчетана с общото благо. Ако технологичният напредък увеличава неравенствата, то той не е истински напредък“, казва папа Франциск и допълва: „Бъдещият напредък трябва да бъде ориентиран към зачитането на достойнството на човека и на Творението. Нека се молим напредъкът на роботиката и изкуствения интелект да бъде винаги в служба на човека. Можем да кажем дори да бъде хуманен“.

И така, дори папата отбелязва, че изкуственият интелект в обозримото бъдеще би могъл да издържи пред всички нас теста на Тюринг. Някога затворена в лабораториите, идеята на тази проверка беше да докаже кога разполагаме с технология, която може да ни убеди, че е човешко същество. Приказваш си с някого, без да го виждаш, и започваш да вярваш, че той наистина е човек, а не робот.

 

 

Робожието слово

Днес технологията е по-близо от всякога до това да го направи. Чатботовете се развиват заедно с алгоритмите и изчислителните възможности. Честно казано, и на мен понякога ми е по-лесно да намеря тема за разговор с роднините на Сири, отколкото с комшийката от четвъртия етаж.

Но личните теми не са важни, а големите. Дали вече сме постигнали алгоритъм, който може да се държи като човек, или скоро ще го постигнем… не е толкова важно, същественото е какво ще се случи после.

От Мъск до Хокинг, от папата до православния отец и писателя фантаст, не е случайно, че всички обръщат внимание към етичните норми, които би следвало да бъдат заложени в неразличимия от нас изкуствен интелект. И тук интересният въпрос гласи: какви да са тези етични норми?

Законите на роботиката днес звучат красиви, но абстракти и непълни, точно както 10-те Божи заповеди не се оказват недостатъчни и се налага човечеството да развие цяла наука за правораздаването.

Любен Дилов се опита да ги допълни с четвърта, докато днес политически неговата версия „син“ ни припомня, че етиката е доста по-тежка дисциплина.

 

Снимка: Julia Volk, Pexels

 

Блажени са вярващите

Философията… също може би не е успяла да извърви бързите стъпки на технологичното развитие, но ви обещавам някой ден да поканя философ, с когото да го обсъдим.

Така стигаме до идеалите. Като например, да си честен, да си добър човек. Да си добър християнин / будист / мюсюлманин / пастафарианец. Прекрасното в тях е, че винаги ще си останат утопии.

А може би разковничето е точно в утопиите? Именно те ни държат на моралното ниво, на което и ние днес, като хора, живеем със самочувствието на всезнаещи и можещи, готови да изчегъртваме от фейсбук профила си тези, които не споделят мнението ни, не са на страната ни в някой от поредните цивилизационни разломи, които ни изсипва настоящето?

„Машината е по-безупречна, по-безгрешна дори от всяко животно. Тя няма никакви намерения, освен нашите собствени“, пише Урсула Ле Гуин. И наистина, поне за момента технологията е до голяма степен функция на това, което ние влагаме в нея.

 

Снимка: Anke Sundermeier, Pixabay

 

Светият дух

Преплитат се много сфери, за всяка от които ще намерите много по-мъдри източници на информация и гледни точки. И все пак, ако днес трябваше да намерим и формулираме етичните принципи, които да въплътим в „душата“ на приближаващия или вече съществуващ изкуствен интелект… Дали наистина пътят не минава през религията, през вярата? През утопията, дори когато е ясно формулирана като такава? С риск да навлезем в още едно изпразнено от съдържание определение – на популизма.

Заради всяка достатъчно разпространила се религия на Земята са се проливали бездънни езера от кръв, историята им е покрита със страдание, а в днешните времена те не спират да бъдат както причина за цивилизационни разломи, така и неудобни злободневни фактори, спиращи мира.

И все пак, казвам го отново от гледната точка на атеист, религиите са наистина устойчива и развита етична формулировка за отношението между хората. И ето защо са логичната парадигма, когато заговорим за етика.

 

Снимка: Jonathan Borba, Pexels

 

Роботът не ще молитва

„Колко хубаво би било, ако растежът на научните и технологичните иновации, съответства на все по-голяма справедливост и социално приобщаване“, казва отново папа Франциск.

Да, знаем, че духовниците ги бива в мотивиращите слова, но ако продължим с конкретика, нещата стават доста по-сложни.

В призивите си за по-етична разработка на изкуствен интелект наистина са единни и учени, и хора на изкуството. Как обаче да изглеждат тези рамки, така и не става много ясно.

Най-известните опити в тази посока са 280-страничният документ на IEEE – Глобалната инженерна организация, и рамките, формулирани от Европейския съюз. Те обаче, може би и изпълнени със съдържание, остават встрани както от обществената дискусия, така и от масовото прилагане. А и дават гледната точка само на западната цивилизация.

 

7-те смъртни гряха

Жокер в тази посока може би дават днешните проблеми, които вече създават алгоритмите. Ако заговорим за социалните мрежи и търсещите машини, там изкуственият интелект е ежедневно решение, което цели да ни задържи максимално дълго вътре, предлагайки ни съдържанието, което ще го позволи. Така се озоваваме в собствения си балон на филтрите, от който излизането е почти невъзможно.

Етично ли е това? Формално да, защото сме кликнали при регистрирането си малкото квадратче, че сме съгласни съдържанието да ни се предоставя по този начин. И даже чистата лъжа, че сме прочели чаршафа с правила.

Друг пример е лицевото разпознаване. Както неотдавна обсъдихме в „Дигитални истории“, днес то е почти съвършено, само че никоя от големите компании, които разполага с него, не парадира с това. Защото то също може да е както ефективно оръжие за манипулация, така и възможност за тотален контрол, ако попадне в лоши ръце.

 

Снимка: ambroo, Pixabay

 

Конклав

И така, днес алгоритмите имат конкретни задачи. Имаме например такъв, който превежда между езиците и друг, който разпознава лица. Най-общо изкуственият интелект е добър тогава, когато на базата на голям обем данни открие закономерностите и реши една от следните задачи: или генерира следващата единица информация, или класифицира по някакъв критерии следващата единица, която му е подадена.

Факт е, че и в двете начинания той бързо става все по-добър, факт е също, че понякога го надценяваме. Но как ли ще изглежда следващото поколение, което ще е неразличимо в поведението си от това на човека, можем само да гадаем. Затова и етичните рамки, които би трябвало да му зададем, за момента са доста условни. И все пак би трябвало да мислим и говорим за тези теми, защото бъдещето в тази област почти винаги идва преди да сме повярвали, че е възможно.

Със сигурност пътят минава и през регулации. През юридически норми, които да определят правилата в областта на разработката на такива системи. За съжаление, днес това се случва в много малка степен.

 

Робот Божи

А попадайки в полето на чистата етика… за момента ИИ е до голяма степен това, което ние му подаваме като информация. Почти както е с хлапетата, ако попаднат в добра среда, четат смислени книги, ще си формират един светоглед, а той би бил доста различен, ако от малки се озоват в агресивна среда, или пък сред приятели с крайни възгледи.

ИИ бързо доказа, че може да стане агресивен, да проявява някои от най-нелицеприятни човешки качества. Показателен е примерът с чатбота Тай, „отроче“ на „Майкрософт“, което през 2016-а получи свой туитър акаунт с идеята да води разговори с останалите и да покаже колко са напреднали технологиите в тази област.

Наложи се да го спрат по-малко от денонощие по-късно. Няколко часа бяха достатъчни Кай да заяви, че ненавижда евреите, а Хитлер е бил прав. По-късно стана ясно, че зложелателни потребители на мрежата са използвали слабости в начина, по който се учи алгоритъмът.

Не би ми се искало например автопилотът на колата, в която се возя, изведнъж да реши, че хората не са важни или не съм му симпатичен…

Да, примерът е поостарял, но принципът е същият и днес. Тогава как да сме сигурни, че следващото поколение Кай ще може… нека го наречем най-общо, да различава доброто от злото?

 

 

Сик транзит

А кой ще го преценява? Дали ще стигнем пак до ситуацията, като в днешните социални мрежи, когато истината се определя от… незнайно кого.

Любопитно е да си припомним, че преди няколко години самият Зукърбърг каза, че иска „Фейсбук“ да играе ролята на църква за своите потребители. И от тогавашната, и от днешната гледна точка това поне за мен звучи плашещо.

Днес често се заглушават и блокират временно профилите на хора със собствена гледна точка, дори когато тя е напълно легитимна, представителна и подкрепена с аргументи. Независимо от коя част на спектъра. Често очевидно фалшиви новини продължават да шестват за сметка на цензурирането на доста по-безспорни твърдения. При това обикновено причината е, че преценката за това е в ръцете не на човек, а на алгоритъма на същите тези социални мрежи.

Значи може би пътят е да разполагаме с по-съвършен, нека го наречем етичен алгоритъм, който да следи всички останали системи? Напълно е възможно, но така пак се връщаме на това какво ще въплътим в него. Кое е добро и зло, кое поведение не може да се толерира, как трябва да се отнася по-съвършен алгоритъм към по-нисшите.

Отговорът на тези въпроси може да е жизненоважен за нас като вид, при това съвсем скоро. Някои учени вярват в задаващата се сингулярност, че ще дойде моментът, когато алгоритмите ще ни надраснат като интелектуални способности и този момент или ще ни извиси и нас като вид, или ще ни превърне в роби. Други не допускат, че това е възможно. Така или иначе, надали някой отрича, че изкуственият интелект ще става все по-добър и ще отваря все повече етични въпроси.

 

Снимка: Stefan Keller, Pixabay

 

Сидхарта

Да, религиите изглеждат като институциите, които могат да дадат много по темата. Само че и те са достатъчно различни и противоречащи помежду си. Дори да вземем пример с уж тръгналите от общи идеи и послания православие и католицизъм. Скоро ще се навърши хилядолетие, в което те продължават да не могат да решат един спор.

Тогава, дали да не обърнем поглед към изтока? Случайно ли е, че днес и доста по на запад се говори за спокойствието и миролюбивостта, които носи будизмът?

А може би няма как да намерим и изведем универсалните ценности, след като не можем да ги формулираме сами като вид? След като глобализацията ясно показа, че планетата ще продължи да се дели на откроими цивилизации, всяка със своя светоглед, както ни завеща Самуел Хънтингтън?

Трябва ли изкуственият интелект да бъде просто ограничен? Или това няма да е достатъчно? Трябва ли да ни възприема като божества, за да ни осигури неприкосновеност? Или пък да го накараме да вярва в Бог, за да е сигурно, че ще спазва етичните норми? Да се бои от Бог?

Кога ще разберем дали има душа – когато ни се усмихне, или когато ни разплаче? А ще може ли един ден да има… изкуствен свещеник? Той би могъл да бъде гарантирано безгрешен и много по-безпристрастен в оценките си…

 

Робот воскресе

Аз все пак вярвам, че универсални ценности могат да бъдат формулирани въпреки всички различия. Надали някой ще оспори легитимността на „Не лъжи, не кради…“ И все пак е нужна много повече дълбочина и мъдрост. Само че пътят минава през размисъл и диалог. През участието на учени, но и на религиозни водачи, на юристи, но и на хора на изкуството, при това от различни цивилизации.

Тази тема изглежда далечна и абстрактна на фона на всичко, което ни се случва през последните години. Но ако се опитваме да я избегнем, ако я подценяваме, тя може да ни създаде много по-големи проблеми като вид от всичко, което виждаме днес. И има само едно решение. Да си говорим така, както опитвам да го правя в „Дигитални истории“, да търсим решението поединично, така че да го намерим заедно. Технологиите и световната динамика ни вещаят все по-интересни времена. Дано да сме готови за тях…

Дигитални истории
<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

„Новата“ майка на ChatGPT

„Новата“ майка на ChatGPT

„Тварта прониква с множество очи в отворения свят…“ Коя ли е тази твар? Сътресенията в OpenAI през последната седмица надминаха по обрати „Игра на тронове“, че дори и българската политика. Сам...

повече информация
„Свободна воля. Или баркод в цифровия концлагер?“

„Свободна воля. Или баркод в цифровия концлагер?“

„Представете си Одисей с джипиес сред гръцките острови напът към Итака. Превръщаме пътуването на човечеството през времето в круиз. А от лъжовната розова зона на комфорта до цифровия концлагер е...

повече информация
Момчето, което спаси интернет. И влезе в затвора

Момчето, което спаси интернет. И влезе в затвора

12 май 2017-а, денят, който можеше да сложи край на интернет. Компютрите на британската здравна система започват да рухват един след друг. Спират да работят и на екрана се появява недвусмисленото...

повече информация

Още публикации по темата:

От рубриката:

„Новата“ майка на ChatGPT

„Новата“ майка на ChatGPT

„Тварта прониква с множество очи в отворения свят…“ Коя ли е тази твар?
Сътресенията в OpenAI през последната седмица надминаха по обрати „Игра на тронове“, че дори и българската политика. Сам Алтман, лидерът на компанията, превърнала се в доминатор, изведнъж… бе уволнен. На него място застана главният технологичен директор на компанията Мира Мурати. После настана пълна суматоха, в края на която всичко си дойде обратно на мястото.
Тепърва ще научим (или пък няма) как и защо се случи този панаир.
Повече от любопитна е версията, съобщавана и от сериозни медии, че причината за всичко е Q* – „кю стар“, нов алгоритъм, способен да разтърси човечеството. Алтман го е представил на борда на директорите и те са били толкова уплашени, че решили да спасят света…
И докато онлайн дебатите се превърнаха в спорове като за латиносериал кой и как дърпа конците, кой се е оказал в силната позиция и какво се променя в света на технологиите след цялата суматоха… встрани остана само образът на жената, която за няколко дни се озова начело на компанията.
Макар и името ѝ да се споменаваше след големия успех на ChatGPT, личността на албанката Мира Мурати винаги оставаше в сянката на Алтман. Ето че е дошло време да научим повече за нея, защото, по всичко личи, от нейните действия ще зависи бъдещето на света, при това не само на технологичния…

повече информация
Закъде си се забързал?

Закъде си се забързал?

„Забързаното ежедневие“ е клише, което повтаряме всеки ден.
Може би, защото е безусловно вярно. Все не стига времето, взеха да ги правят много кратки денонощията. Минутите се изнизват, не оставят време за спокойни мигове със семейството, с приятели, за книга, просто за замисляне или пълен релакс…
Как да е иначе? Днес в рамките на един ден можем да получим повече информация, отколкото само няколко поколения по-рано са възприемали за месеци, дори за цял живот.
На какво се дължи това постоянно усещане? Поколенията ли са различни, работата ли е повече? Или просто има нещо, което ни кара да се чувстваме под напрежение? Което все ни плаши, че изпускаме момента, дори когато няма никакво основание…

повече информация
Ковид 4 г. по-късно. Защо не си взехме поука?

Ковид 4 г. по-късно. Защо не си взехме поука?

Спомняте ли си, не толкова отдавна бяхме затворени по домовете си, парковете бяха преградени от ленти, пътищата извън града – от пропускателни пунктове… После се появиха ваксините, щяха да ни спасят или да ни убият. Рекорден брой българи умираха, разделихме се на ваксъри и антиваксъри, а оттам тръгнаха и толкова други разделения…
Невероятно е устроен човешкият мозък, бързо забравя и се адаптира към новото, към лесното. Така обаче много от важните въпроси изчезват, изтикани от поредната „актуална“ тема, по която да се дърляме. Докато, междувременно, от много държави идват сигнали, че ковид се завръща…
Видяхме колко бързо ежедневието ни може да се преобърне наопаки. Колко сме крехки, като индивиди и като вид. И е време да потърсим поуките.
Възможно ли е скоро да има нова вълна на коронавируса или пък да се появи следващият микроорганизъм, способен да промени живота на цялата планета?
Научихме ли си уроците?
Колко адекватно се справихме с пандемията?
Можеше ли повече човешки животи да бъдат спасени?
Колко смъртоносен се оказа коронавирусът?
Прекалихме ли с мерките или напротив – трябваше те да бъдат по-строги?
Решение ли се оказаха ваксините?
По-подготвени ли сме за следващи епидемии?

Въпроси, чиито отговори са важни за всеки от нас.

повече информация

Най-новите:

Пол Алън – другото лице на Microsoft

Пол Алън – другото лице на Microsoft

Две хлапета се сприятеляват покрай общия си интерес към компютрите. После заедно създават първата си фирма. Няма и десетилетие по-късно същата тази фирма вече е първият гигант на модерните компютърни времена. И ако за едното хлапе, което дълго беше най-богатият човек на планетата, знаем много, то историята на другото не е чак толкова популярна.
Не друг, а компютърният специалист Пол Алън, „кръстникът“ на Microsoft, се оказа собственикът на най-скъпо продадената частна колекция от картини. При това през ноември 2022-а, 4 години след като си отиде от този свят. Ценител на изкуството, запленен от спорта, огромен дарител за научни изследвания. Той е и богаташът, който пробуди модерния интерес към космическите полети.
Още на 29 разбира, че е болен от смъртоносно заболяване и решава да изживее остататъка от живота си така, както си е мечтаел.
Много може да се поучим от историята и светогледа на този нестандартен образ. И още повече – да си задаваме въпроса как щеше да изглежда днешният технологичен свят, ако и останалите му лидери имаха неговия светоглед?

повече информация
„Занимаваш се с наука? Ще си тъп и беден!“

„Занимаваш се с наука? Ще си тъп и беден!“

Не, няма! Технологиите, науката са пътят – и за всеки млад човек, който иска да постигне нещо, и за всички нас, като народ, дори като цивилизация.
29 милиона пъти са видени миналата година в социалните мрежи публикациите на сайта „Българска наука“. Достъпно, но и адекватно, издържано, в него се разказва за научните пробиви, за предизвикателствата, за големите успехи на българските учени.
Вече 17 години Петър Теодосиев влага в тази кауза душата си. Започва като хлапе, няма пари да си купи книги, от които да се научи да програмира. А после така се увлича в разказването на научни истории, че и до днес не губи вярата си.
Че можем да обърнем стереотипа. Че е важно да запалим искрата на любопитството, на любовта към книгите, пламъка на науката при следващите млади хора. Защото това е шансът ни като нация.
Но как да се случи?

повече информация
„Новата“ майка на ChatGPT

„Новата“ майка на ChatGPT

„Тварта прониква с множество очи в отворения свят…“ Коя ли е тази твар?
Сътресенията в OpenAI през последната седмица надминаха по обрати „Игра на тронове“, че дори и българската политика. Сам Алтман, лидерът на компанията, превърнала се в доминатор, изведнъж… бе уволнен. На него място застана главният технологичен директор на компанията Мира Мурати. После настана пълна суматоха, в края на която всичко си дойде обратно на мястото.
Тепърва ще научим (или пък няма) как и защо се случи този панаир.
Повече от любопитна е версията, съобщавана и от сериозни медии, че причината за всичко е Q* – „кю стар“, нов алгоритъм, способен да разтърси човечеството. Алтман го е представил на борда на директорите и те са били толкова уплашени, че решили да спасят света…
И докато онлайн дебатите се превърнаха в спорове като за латиносериал кой и как дърпа конците, кой се е оказал в силната позиция и какво се променя в света на технологиите след цялата суматоха… встрани остана само образът на жената, която за няколко дни се озова начело на компанията.
Макар и името ѝ да се споменаваше след големия успех на ChatGPT, личността на албанката Мира Мурати винаги оставаше в сянката на Алтман. Ето че е дошло време да научим повече за нея, защото, по всичко личи, от нейните действия ще зависи бъдещето на света, при това не само на технологичния…

повече информация
„Свободна воля. Или баркод в цифровия концлагер?“

„Свободна воля. Или баркод в цифровия концлагер?“

„Представете си Одисей с джипиес сред гръцките острови напът към Итака. Превръщаме пътуването на човечеството през времето в круиз. А от лъжовната розова зона на комфорта до цифровия концлагер е само крачка. Така наречената цифровизация би била една много комична, дори забавна част от историята на човечеството, но, уви, не е така. Тя ни води директно в един безсмислен от хуманна гледна точка свят.“
С тези думи на Недялко Славов започваме разговора за най-новия му роман „Хабитат“. Огромна по значение и сила книга, пропита с много от тези големи днешни въпроси, чиито отговори не спирам да търся чрез Дигитални истории.
Недялко Славов е носител на редица национални награди за поезия и проза, автор на романите „Фаустино“, „432 херца“, „Камбаната“.
На границата на епоса е и новото му произведение, в което с безпощадната си писателска наблюдателност и неповторимия си стил той ни показва зловещо тиктакащите взривни устройства на днешния ден, за които все нямаме време.
Ще се научим ли да ценим данните си, най-ценното, което имаме днес онлайн? Какво може да ни спаси от шпионските агенции, в каквито са се превърнали социалните мрежи? Къде е днес битката за свободата и има ли все още шанс да не я загубим?
„Всичко е в това какво искаш да си утре. Свободна воля. Или баркод в цифровия концлагер на един безсмислен свят“.

повече информация
Момчето, което спаси интернет. И влезе в затвора

Момчето, което спаси интернет. И влезе в затвора

12 май 2017-а, денят, който можеше да сложи край на интернет. Компютрите на британската здравна система започват да рухват един след друг. Спират да работят и на екрана се появява недвусмисленото съобщение „Ууупс, файловете ви са криптирани! Трябва да преведете между $300 и $600 в биткойн на следния адрес, за да отключите машината…“.
Вирусът WannaCry, влязъл в родния мем фолклор с нелепия превод „Искаплаче“, се превръща в най-мощната кибератака в човешката история. Само за един следобед нанася щети за между 4 и 8 милиарда долара. Нещо повече, заради начина и скоростта, с която се разпространява, заплашва за денонощие да порази всяко устройство, свързано към интернет.
Спира го по особено неочакван начин един симпатичен къдрав британец с ямайски произход. Само на 22, той се превръща в знаменитост в киберсвета. Докато няколко месеца по-късно не се озовава в щатски затвор с обвинения, които могат да му донесат десетки години затвор.
Историята на Маркъс Хъчинс е нещо средно между „Граф Монте Кристо“ и „Престъпление и наказание“ на дигиталните времена. За възходите и паденията на момчето, което спаси интернет (и хиляди животи), преди да се срещне с грешките от миналото си…

повече информация
„Искам да чета нещо, написано от хора!“

„Искам да чета нещо, написано от хора!“

За книги и фронтенд програмиране, за писането – на думи и компютърен код, ще си говорим с Александър Кондов. Ще минем покрай философията и изкуствения интелект.
Програмирането е изкуство, а не инженерна работа! – гласи веруюто на днешния ни гост.
Защо ли смята така?
Седнали сме тримата – с него и ChatGPT, в една дигитална кръчма, за да побъбрим на чаша дигитален чай за ония големи теми, които вълнуват всички ни…

повече информация
Share This