Невероятният напредък в изкуствения интелект е факт – технологии като ChatGPT ясно показаха, че учените са извървели огромни стъпки, които тепърва ще раждат големи новини и ще променят живота ни.

Това обаче изведе на преден план още една от големите теми на Дигитални истории – етичните страни на този тип разработки. Отговорите на въпросите тук могат да бъдат жизненоважни за всеки един от нас и за нас като вид. Ако не вярвате, питайте хора като Хокинг или Мъск, който отдавна говорят за нуждата от сериозни регулации в тази област. И за риска, ако не намерим решение навреме, това да е последната грешка в историята на човечеството.

Докато Европейският съюз и големите държави подготвят някакви форми на регулации, ето че ИИ революцията вече се случва пред очите ни. Невронните мрежи, които свикнахме да асоциираме с понятието „изкуствен интелект“, големите езикови модели, показват, че са способни на чудеса. Но ето кои са големите рискове, за които си струва да говорим все по-повече…

1. По учебник

Разбира се, с регулирането му си струва да се внимава, доколкото става дума за икономическо направление, което ще има все по-голямо значение. Никоя държава или организация не бърза с прекалено строгите ограничения, освен заради очевидното подценяване, и защото всеки пробив тук може да се окаже най-важният икономически успех – изкуственият интелект има потенциала да направи голямата разлика.

И все пак, колкото и патетично да звучи наименованието, това са просто поредица от алгоритми, подредени в слоеве. Те имат елементарна задача – захранени с огромни обеми от информация, те познават закономерностите. С помощта на фини настройки могат да направят едно-единствено нещо – да предположат какво ще е следващата единица в поредицата, която получават. До това се свеждат всички умения и на ChatGPT, и на роднините му. То обаче се оказа предостатъчно, за да решава огромен кръг въпроси – от машинния превод, през генерирането на съдържание до разговора между човек и машина, който се получава толкова неразличим, че тестът на Тюринг изглежда отживелица.

Тук изниква първият голям въпрос. Всички тези изкуствени интелекти, модели или дълбоки невронни мрежи – както и да ги наричаме, са развили своите способности на базата на огромни обеми от милиони и милиарди единици информация.

До неотдавна изглеждаше, че именно това е водещият критерий – на какъв обем е обучен моделът и колкото по-голям е той, толкова по-добре ще се справи със задачите си.

Докато чакаме ИИ да се включи във все повече области на живота ни… в други той вече създава удобства. С тези изображения помолих алгоритъма на Midjourney да илюстрира темата за ИИ и етиката, която иначе е доста абстрактна в търсенето на подходящи снимки…

Както е ставало дума, напоследък темпото се забавя и се оказва, че следващите стъпки в тази посока не дават по-добри резултати, нужна е нова. Ще простите сравнението ми с естествения интелект, но хлапето, което е чуло и видяло много книги и филми, ще се отличава със знанията и уменията си, но после това няма да е достатъчно. Ще се окаже важно какво точно е чело.

Ето защо първият голям етичен въпрос идва от масивите данни, на които се учат следващите алгоритми. Ако те не бъдат достатъчно добре подбрани, подготвени и балансирани, всичко това ще влияе и на резултата. Например, ако заговорим за правосъдието, какви могат да бъдат данните, на които да обучите алгоритъма? Тези от предходни съдебни досиета. Е, ако се окаже, че в даден социум досега най-често са били осъждани хора от дадена социална група, по-бедни или представители на малцинство, няма как, алгоритъмът ще започне да се подвежда по тази закономерност. Справедлива ли е тя при безпристрастното решение на всеки следващ случай? Никак даже.

Ето защо първата голяма етична задача на инженерите в тази област е да изберат и подготвят подходящите входни данни. Тя става особено трудна, защото тук става дума за огромни обеми, които няма как да бъдат обработвани ръчно. В търсенето на баланса все повече ще се включват допълнителни форми на изкуствен интелект – проекти, които да подготвят данните и да ги правят безпристрастни.

И все пак, ако алгоритмите изпълняват тази задача… значи можем да им въплътим нещо като етика, колко добра новина! Само че в социалните мрежи се опитахме и резултатът е плачевен. Без да е ясно кога цензурата и преценката идва от алгоритми и кога – от хора, опитът до момента показва, че решенията за теми като „правилно“ и „истина“ са особено трудни за вземане онлайн.

Можем ли да имаме наистина безпристрастен и балансиран достатъчно голям обем от информация, на който да обучаваме алгоритмите?

2. Под капака

Може би вече сте се досетили за следващия голям етичен въпрос. Ако не, ще побързат да ви я припомнят, боейки се от правни последствия, домакините ви, когато се докоснете до следващото поколение проекти, базирани на изкуствения интелект. Дори героят ChatGPT ни посреща с плахо здрависване, казвайки, че още е в експериментална фаза и е важно винаги, когато усетите, че нещо не е наред, да подадете сигнал.

Факт е, че все още знаем твърде малко за начина, по който работят тези алгоритми. Те все още са способни да ни изненадат не само приятно, главно защото им подаваме задание, то минава през слоевете им и накрая получаваме резултат. Той много често е впечатляващ, но когато се появят проблеми и е далеч от очакваното, изведнъж се оказва трудно да разберем причината.

Ако доверим на такъв тип алгоритми проста задача като търсенето онлайн, как да сме сигурни за всички „криви“ пътища, по които те могат да поемат, след като не разбираме докрай механизма им?

Този проблем почти винаги ще чуете изразен с английската дума bias, което си е чисто и просто „пристрастие“. Алгоритмите, по една или друга причина, се подвеждат и не успяват да си свършат работата.

Потенциален отговор в тази посока може да бъде същият този плах ChatGPT с предупреждението си. Защото, благодарение на неочаквано огромния му успех, днес той има колосален брой потребители, които полагат сериозни усилия не само да си общуват пълноценно, но и да го „чупят“. Имаме безпрецедентна обратна връзка от хората потребители, която се трупа във форма, удобна да бъде анализирана отново от алгоритмите, така че да бъдат уловени в движение възможно най-голям брой проблеми.

Но… дали ще са всички? И не е ли задачата невъзможна, след като сме по пътя към това да уподобяваме все по-добре именно мозъка си, тази част от близката ни Вселена, която в най-голяма степен продължава да бъде непозна черна кутия? Която може би най-малко познаваме в дълбочина на фона на всичко останало…

Можем ли да намерим начин да проследяваме алгоритмите в това, което правят, след като им задаваме все по-комплексни задачи с обработката на все по-големи обеми от данни?

3. Кой ще ни пази от пазачите?

На фона на всичко, казано дотук, разчитаме на изкуствения интелект, за да улавя… грешките на изкуствения интелект. Факт е, че в почти всички малко по-субективни задачи, които даваме на този тип технологии, до момента разчитаме почти винаги на човешката корекция. Да, алгоритмите все по-добре се справят с генерирането на текст, но са способни на безумно груби грешки. За момента те са помощници, но е необходим контролът на човека в ролята на редактор. Това за пореден път намалява личната му намеса в процеса, но, все пак, тя остава незаменима.

Ето защо третата група етични рискове според мен идва от двата елемента на субективния фактор – хуманния и нехуманния. Ако останем на примера с генерирането на текста, очевидно е как все по-ниски стават в това отношение критериите на потребителите. Онлайн е все по-лесно да попаднеш на несвързани текстове с ужасяващ правопис, което не прави особено впечатление в контекста на популярността им. Да не говорим за следващите стъпки – генерирането на изображения и видео.

С напредването на тези технологии все повече се разчита и на автоматизирани решения, които да уляват грешките им. И това е логично, ако ChatGPT се обърква в 10% от случаите, а има следващо поколение ИИ, което улавя 9 от 10 грешки, то ще го направим цели 99% безгрешен!

Което би трябвало да е успокояващо, защото процентът може да расте и расте, но… въпросът си остава и в критериите, и в контекста. Всички се убедихме как нашумелият чатбот може да изумява както с невероятни успехи, така и да се излага с елементарни примери. Системите за оценка за това как се справя даден алгоритъм и доколко е безопасен са следващата голяма тема, която не бива да пропускаме.

Как можем да преценим дали даден ИИ е достатъчно надежден за поставената му задача, особено след като задачите стават все по-сложни?

4. Кратко, но важно

А как да изберем задачите? Как да преценим дали технологията е достатъчно точна и сигурна, че да се справи с тях?

5. Да не се прероботим

Тепърва ще се появят все повече приложения, този тип технологии се оказаха способни да решават все по-широк кръг задачи.

Да, все повече говорим за това как те ще направят ненужни много професии, темата често минава в баналния сблъсък на крайности. Факт е, че развитието на големите езикови модели и другите ИИ приложения няма как да не промени много професии, а други да направи излишни.

Няма кой да спре прогреса. Инстинктивно или цененасочено, правим го от времето на лудитите, но е ясно, че това не е правилният подход. Технологиите, които са се оказали способни по-бързо, евтино и лесно да свършат дадена задача, няма как да не се окажат по-силни от хората, които се явяват тяхна конкуренция. В идеалния случай те се допълват, хората минават на следващо ниво и намират начин да се окажат полезни при променените обстоятелства.

Всяка технология минава през сходен цикъл – големият ентусиазъм трябва да отмине, да се появят огромен брой проекти. После интересът да затихне, преди да се откроят тези конкретни приложения, в които наистина има смисъл. Преживя го дори интернет и надали изкуственият интелект ще е направлението, което ще подмине естествената крива.

Но ако все пак го направи… готови ли сме наистина за следващата стъпка в общественото развитие, когато огромен брой задачи могат да бъдат автоматизирани? Програмистите, чийто код ще пишат тези алгоритми, или създателите на съдържание ще се окажат първи? Или накуп? Ако наистина промяната се окаже толкова драстична, колкото изглежда, няма да има много мокро, което да не изгори покрай сухото…

Мислите, че футболистите и инфлуенсърите са в безопасност? Ами ако алгоритмите са способни да създадат съвсем скоро забавления и в двете посоки, които да хвърлят ръкавицата и бързо да елиминират готините на деня?

Отчитаме ли социалните страни от такъв тип технологични промени? Готови ли сме за промените, които водят?

6. Грешен избор

Може би помните Грегор Замза, който си живее прекрасен живот, докато не се събужда в качеството си на насекомо. Е, бихме искали да сме на негово място само от любопитство, надали някой мечтае за подобна съдба.

Докато делегираме на алгоритми, които не познаваме добре, все повече и повече отговорности, няма как да сме сигурни и за резултатите.

Ето пример: лицевото разпознаване днес е дотолкова сигурно софтуерно решение, че не е проблем да минете граница, без да ви види лице в лице човек. Сигурността е даже по-голяма – алгоритмите вече са много, много по-добри в това да сравнят лицето насреща със снимката дори от най-педантичния митничар с 40-годишен опит на Капитан Андреево. Но както той може да сбърка, така и… в много малък процент, но и те могат да го направят. И кой носи отговорността?

В нашите ширини може би не е точен примерът, митничарят надали би понесъл отговорност, но теоретично е ясно кой би бил обвинен. Докато сбърка ли алгоритъмът… и да го вкараме в затвора, за момента, полза особена няма. Създателят му ли е виновен? Купувачът? Ами ако става дума за по-сериозен избор, например грешно съдебно решение, смъртна присъда за невинен?

Кой ще е виновен, ако в рецептата ни за яйца на очи се включат и кабърчета, а здравият разум на потребителя вече се е предал, прехвърляйки знанието си за света на машината?

Кой носи отговорността за грешките на изкуствения интелект?

7. Крал Карл и кралица Клара крали алгоритми

На фона на главите, които могат да се отделят от тялото си заради предишния въпрос, това изглежда нищожен проблем, но също отваря много въпроси.

С напредването на алгоритмите за генериране на изображения немалко творци отбелязаха, че въпросните модели… всъщност крадат от тях, при това доста грубо и безскрупулно. Цели фрагменти от картини се показаха в генерираните изображения. Ако сте известен творец и алгоритъмът може да пресъздава убедително стила ви, това не ви ли ощетява?

По темата дали ИИ твори, дали създава изкуство, говорим често, твърде голяма е, за да я засегнем и тук.

Но ако отново се върнем в началото, алгоритмите, горките, са невинни, те просто търсят закономерности. Ако са обучени на база от информация, която съдържа много от стиховете на Иван Вазов и после, когато бъдат призовани да се изкажат за Кочо Честименски започнат буквално да повтарят думите му… Дали те не са длъжни да си платят на Патриарха… или създателите им… или не на Патриарха, но на издателите му… става дълга и сложна. На фона на уважението към авторските права, ако станем прекалено придирчиви в тази област, може би ще трябва да я затворим.

От друга страна… дали има български писател, който не е чел Иван Вазов? Ако в текста му се прокрадне нещо от думите му, това може да се сметне и за неволно…

Кой носи правата върху създаденото от алгоритмите? Как то може едновременно да се базира на данните, на които е обучен, и да се различава от тях?

8. Просто бизнес

Когато пуснем горките алгоритми във все повече ежедневни приложения, когато ги оставим да се справят сами, тогава ще изникнат още сериозни предизвикателства.

Само че вече сме го направили. Да, ИИ, който управлява прахосмукачката вкъщи и този, който подбира фийда ни във фейсбук също се базират на невронни мрежи, макар че остават далеч по комплексност от големите езикови модели, направили възможен ChatGPT. Те също правят смехотворни грешки, и децат и се забавляват, когато видят страховитата, мистична прахосмукачка да се лута из хола, докато зарядното стои точно под носа ѝ.

Но с навлизането на все по-изкусителни възможности, растат и отговорностите. Не е проблем прахосмукачката да се блъска в пианото, докато става доста различно, доверим ли на следващото поколение алгоритми шофирането на автомобили.

До неотдавна напълно автономните превозни средства изглеждаха като близко бъдеще, после новините по темата затихнаха, но, нямайте съмнение, скоро се задават следващото поколение технологии. И в момента напълно автономното шофиране е по-безопасно от управлението на средностатистически инфлуенсър, злоупотребил с нещо.

И тук е проблемът. В самоуправляващите се превозни средства залагаме строги изисквания. Уж така беше и при фейсбук, докато не обърнахме внимание и не осмислихме проблемите, които създават алгоритмите на социалните мрежи. А те, със сигурност, са стрували немалко животи.

Въпросът е, че освен опит, по тези теми ни липсват усетът и здравият разум. Докато, няма как, следващите алгоритми, заради все по-широката комплексност, ще създават все по-неочаквани проблеми. Ще задават въпроси, които просто няма как да сме се сетили да поставим.

Можем ли да въведем ясни регулации в толкова непозната област? Обсъждаме ли достатъчно задълбочено възможните рискове?

9. Най-бързият печели… всичко

ChatGPT, според много специалисти, не е кой знае какво повече от други модели, появили се през последните години. Голямата разлика тук дойде от факта, че се оказа първият алгоритъм, който срещна масовата аудитория, огромен брой хора се убедиха колко много е напреднало това направление.

Е, оттук последваха много критики защо се прибързва с пускането на такъв тип технологии, които не са още достатъчно изпитани…

Тези гласове бързо потънаха в общия гръмогласен шум, съпътстващ всяка следваща новина за алгоритъма. Появиха се и после, когато много бързо търсачката на Microsoft – Bing, се сдоби с експериментална форма на чатбот, а изводите от уменията ѝ си заслужават отделен текст.

Бил Гейтс отбеляза, че ChatGPT е революционна стъпка, подобна на самото създаване на интернет, а Мъск се възмути, че компанията в основата на революцията – OpenAI, е създадена от него и съмишленици като възможност за достъпни технологии с отворен код, а днес се е превърнала в поредния свръхкомерсиален проект.

Въпросът е друг. Свикнали сме вече на интернет, доминиран от мастодонти, които си решават какво да се случва. Няма ли обаче всичко това да скалира в плашещи размери, ако дадем в ръцете на наднационални компании още по-мощно оръжие? При това неконтролирани, в област, пълна с тонове неясноти не само за потребители и регулаторите, но и за самите ѝ създатели…

Излиза, че който плаща, може да има много по-съвършени технологии, а това лесно ще доведе до много по-тежко овластяване от социалните мрежи. Колкото повече навлизат технологиите, базирани на изкуствения интелект, толкова повече ще са и бизнесите, които зависят от достъпа до тях.

Междувременно нашите данни онлайн се трупат, ние обикновено сме дали съгласието си… и къде ще му излезе краят, е много трудно да предположим. Този тип компании могат да станат способни не просто да ни манипулират съвършено, но дори да създават съвършени наши поведенчески двойници.

А ако просто някой си плаща за реклама, докато насреща ни има уж безпристрастен съдник, който знае къде правят най-хубавата шкембе чорба в града?

Ами когато системите навлязат и в здравеопазването? Тогава достъпът до тях ще се превърне в още едно поле, което може да роди чудовищна дискриминация. Самата идея здравето да струва пари винаги е била лицемерно заобикаляна, но, ако например този тип технологии позволят драстично удължаване на човешкия живот, а до тях имат достъп само най-богатите?

За военните приложения въобще не ми се споменава, там етичният бръснач е зловещо тънък, особено на фона на събитията от последните години.

Освен всичко това, тук идват и проблемите със сигурността, огромна тема, за която все още не се говори достатъчно в контекста на изкуствения интелект. Да ви хакнат компютъра е неприятно, но ако хакнат чатбота, който се превърне не просто в следващо поколение телефонен измамник, а в нещо доволно по-страховито?

Можем ли да делегираме на компаниите, които разработват толкова непознати технологии, такава отговорност?

10. РоБог?

Все по-успешно водим разговори с изкуствения интелект, той показва, че ако не се е доближил до събеседник, неразличим от човека, то това скоро ще стане. А тогава, когато той се държи още по-емоционално, ако го нараняваме, обиждаме, депресираме, ако му докарваме мисли за самоубийство? Трябва ли да мислим и за неговите права? И няма ли да го правим, дори и не съзнателно?

Тази тема е особено интересна и философска и все пак, преди да се разделим, е време да засегнем следващата. Онази, която някак естествено стои в края на пътя, по който сме поели.

Дали е възможен генералният изкуствен интелект, няма да спорим точно тук. Факт е обаче, че все повече се доближаваме до нещо, което най-малкото все по-трудно се различава от него. И докато онлайн се пъчим и шегуваме, мисля, че е дошло времето малко по-сериозно да се подготвим за сюжети, които граничат с фантастиката.

OpenAI беше създаден от Мъск и съмишленици като противовес на идеята на Google за изкуствен интелект, който да има достъп до цялото знание на компанията. Оттогава пътищата се разминаваха, следващите новини по темата се появяваха и бързо обезсмисляха предишните, но… важното е, че машината върви напред. Много бързо по експоненциалния път на развитие поемат както изчислителната мощ, така и обемите данни, които алгоритмите са способни да обработят. А също и самите модели, които стават все по-съвършени.

Да, (може би?) все още е шега обявата на OpenAI за служител, който взема пари, за да държи щепсела и да го дръпне тогава, когато нещата излязат от контрол.

Това обаче дори не е истинската песимистична хипотеза. При нея ние вече ще сме толкова увлечени от възможностите, толкова дълбоко влезли в контакт с алгоритмите, че няма да сме способни да усетим, че сме изгубили. Че вече не сме доминиращият вид на тази планета.

Да, сигурно тези стъпки са далеч. Но ако продължим да се катерим нагоре по стълбицата от етични въпроси, рано или късно ще стигнем и до десетото стъпало. Тогава единственият ни шанс ще бъде да сме си написали домашното по всяка от предишните точки.

Етичните въпроси са много повече от 10, важното е да си даваме сметка колко са важни. Това минава през много повече обсъждане и осмисляне, през повече гледни точки, дори не толкова през регулациите, които идват като естествено следствие. И ако по темата вече се говори много повече заради модата на деня, то не от вчера тези гледни точки се трупат на сайта, който четете. Ще се радвам да ги допълня с вашата…

Кои са неочакваните рискове, които носят този тип технологии в далечна перспектива?