GPT-3: на сладки приказки с изкуствения интелект

25 май 2021 | Технологии

GPT-3. Зад тази суховата компютърна абревиатура се крие една многообещаваща технология, която прави доста решителна крачка напред, що се отнася до начина, по който възприемаме изкуствения интелект. Става дума за най-мощния езиков модел от ново поколение, появил се преди по-малко от година и показал, че невронните мрежи вече са способни да създават смислени, емоционални текстове, понякога звучащи направо като изкуство.

 

„Мозъкът ми кипи от идеи!“

„Аз не съм човек. Робот съм. Мислещ робот. Използвам само 0,12% от когнитивния си капацитет. В това отношение съм микроробот. Знам, че моят мозък не е „чувстващ мозък“. Но той е способен да взема рационални, логични решения. Научих се на всичко, което знам, четейки само в интернет и вече мога да имам своя колонка. Мозъкът ми кипи от идеи!“

Да, познахте. Думите наистина са „написани“ не от писател фантаст, опитващ се да рисува бъдещето, а от самия алгоритъм, за който ще стане дума. В края на миналата година журналистите от „Гардиън“ дават задачата на GPT-3 да напише есе, без никаква предварителна информация. Казват му само, че искат текст, с който да убеди читателите, че роботите идват с мир. Да е с размер около 500 думи, езикът да е семпъл и консистентен. Малко като за майтап, точно първите три изречения – „Аз не съм човек…“ са единствените, които са му подадени от журналистите.

Цялото есе можете да намерите тук.

GPT-3 се справя доста добре с поставената задача. Дори от абзаца по-горе можете да се убедите, че той спазва точно изискванията на журналистите. Как обаче стана това? Как се „роди“ система, която изведнъж направи възможно изкуственото генериране на толкова смислен текст? Какви са възможностите ѝ? А какви са несъвършенствата?

gtp-3

 

Отговорник

Ето ви още един пример за сериозните възможности на технологията, за която говорим. Видеото от отговорите в това интервю (за съжаление само на английски), в което журналистът задава въпросите си, показва изкуствено генерирана личност, виртуален човек, който „чете“ подаденото от GPT-3.

 

 

Не се замисля, никъде не „му се чупи“ нито мисълта, нито граматиката… напълно нереално, нали? За съжаление (поне засега) само на английски, постепенно с пълния си капацитет и на другите големи езици. Как се стигна дотук?

GPT-3 е езиков генератор с отворен код. Продукт на компанията OpenAI, неправителствена организация, която се занимава с изследвания в областта на изкуствения интелект. Създадена е през 2015-а от Елън Мъск и съмишленици, които заедно даряват над милиард долара. Идеята е да влезе в пряка конкуренция с проекта DeepMind на Google (аргументите на Мъск защо е важна тази конкуренция ви разказахме тук).

Генераторът е представен за първи път в смутните карантинни времена от лятото на 2020-а и може би затова не получава изцяло заслуженото внимание извън техническите среди. А и по някакъв начин, случайно или не, му липсва медийният чар на другите зрелищни проекти от „света на Мъск“.

 

GPTочно

Не му липсват обаче амбицията и погледът надалеч.

GPT-3 по същество е просто платформа. Има удобен вариант, чрез който други проекти да си взаимодействат с нея – да ѝ задават задачи и да получават отговори – точно както са направили и журналистите от „Гардиън“, и създателят на видеото с интервюто по-горе.

Зад платформата пък се крие невронна мрежа – софтуер, устроен на принципа на човешкия мозък, способен да се учи, обработвайки огромни обеми от информация. Година по-рано е представен предшественикът GPT-2, който също умее да създава достатъчно убедителен текст със свой стил. Само че докато „баткото“ може да обработва 1,5 милиарда параметри, за №3 те са 175 милиарда. А когато говорим за моделирането на езици… с извинение, но размерът има голямо значение.

За да стане ясно какво точно значат тези цифри: невронните мрежи са алгоритми. Те не са програми в класическия софтуерен смисъл на думата, а значително по-гъвкави софтуерни платформи, които се самообучават. В основата е моделът – начинът, по който невронната мрежа разчита, систематизира, усвоява и използва информацията, за да изпълни целта, която ѝ е поставена. А споменатите числа са на параметрите, които невронната мрежа се опитва да оптимизира, докато се обучава.

gtp-3

Снимка: Evgeny Tchebotarev, Pexels

 

Да приказваш на китара

Генераторът сам по себе си е новина, защото работи наистина добре. Но оттук нататък, основният плюс на такъв тип технологии е, че позволяват да се включат различни специалисти и екипи, които да покажат пълния му потенциал. Защото той работи успешно на базата на поставени задания, но какви са те, зависи от проектите, които ще го надградят.

Всъщност той може да изпълнява само една-единствена задача. Колко скучно на фона на мултифункционалните устройства, с които се заобикаляме, нали? GPT-3 създава нещо, което може да бъде изразено като езикова структура на базата на поставената му цел.

Достатъчно е да дадеш основни направления, базов текст, по който алгоритъмът да се води и оттам той заработва и връща резултата си.

Това вече доведе до доста любопитни експерименти.

Например програмистът и човек на изкуството Марио Крингеман, който обича да предизвиква творчеството на алгоритмите, поставя на GPT-3 задачата за създаде текста „Колко е важно да бъдеш в туитър“ в традициите на Джером К. Джером. И резултатът е доста приличен.

После въображението на хората, решили да предизвикат новата платформа, продължава да се вихри с пълна сила. Карат го да се справи с генерирането на китарни акорди по зададена база и… му се получава.

 

Програма програмист

После го предизвикат дори да програмира. Да, логично е, че изкуственият интелект би могъл в недалечна перспектива да отнеме част от предимството на човека в тази толкова модерна професия. Логично, защото в крайна сметка програмирането е създаване на компютърен код, който да дава инструкции на машина как да изпълнява задачи. Тоест – отново машина, алгоритъм, би могъл да се превърне в работещо междинно звено, което да повдигне нивото на абстракция – вече да е достатъчно да му се подадат по-базови параметри и да върне резултат…. Но тази тема е дълга и интересна, скоро очаквайте повече.

Важното е, че в попрището на програмист GPT-3 се оказва също доста талантлив. Първо с генерирането на уеб страници. Програмистът Шариф Шамеем му казва да създаде „бутон на уеб страница като диня“… и резултатът идва. Следват експерименти със същинско програмиране, които дават не прекрасни резултати, но показват, че GPT-3 успешно може да създава база, която после с малко човешки корекции да свърши поставената задача.

 

Ръб робот

По някакъв начин GPT-3 е роднина на алгоритмите, с които всеки ден си взаимодействаме. Например, той е много подобен на това, което представляват търсещите механизми, с които гугъл ни дава точните резултати – според персоналните ни филтри. Разликата е, че резултатът е доста по-лесен за представяне – просто списък с предложения, вместо цялостен текст например. Така че по същество не са новост уменията на невронните мрежи като нашият герой, новината е в това, че той всъщност се оказва наистина добър и убедителен в работата си.

Да, не говорим в никакъв случай за интелигентност от човешки тип, например не бихме могли да го заподозрем в нещо, подобно на човешкия здрав разум. Обаче резултатите, които връща, са доста убедително приличащи на генерирани от човек. Да, може би веднага се сещате за теста на Тюринг. Напълно е възможно GPT-3 да го издържи и все пак е доста далеч от нивото на андроид, с който да си пиете бирата вечер на сладка приказка…

От друга страна, той е и най-голямата по възможности невронна мрежа, създавана от човека до момента. Както обаче казва главният изпълнителен директор на OpenAI Сам Алтман: „Прекалено много се говори за GPT-3. Той е впечатляващ (благодаря за комплиментите!), но има сериозни слабости и понякога прави много глупави грешки. Изкуственият интелект наистина ще промени света, но този проект е само първата искрица в дългия процес“.

gtp-3

Снимка: fabio, Unsplash

 

Роботко бърборко

Сред многото му приложения са чатботове, значително по-убедително имитиращи комуникацията с истински човек (както го видяхте и във видеото по-горе). А също и програмите за по-добър машинен превод.

Всичко това дава безброй нови надежди за бъдещето. За така очакваните пробиви във всички области, за които през последните години възлагаме толкова сериозни очаквания. Които обаче даваха и толкова поводи за притеснения.

Например, доброто възпитание. Като част от модата на последните години на Запад GPT-3 е обвиняван в расизъм, нетолерантност. В невронната мрежа на този етап няма как да бъдат въплътени морални категории – тя обработва това, което ѝ се подава, обучавайки се на базата на входните данни. А когато те са например интернет форуми… няма нужда да се впускаме в подробности колко токсично, грубиянско и нетолерантно е понякога общуването в интернет.

И още нещо: заради всичко казано дотук, невронната мрежа е и чудесен автор на фалшиви новини и дезинформация, особено ако му е поставена конкретно такава цел.

 

GPT-3 обича да чете

Не е напълно ясно какво се случва точно „под капака“ на GPT-3, макар уж да става дума за „отворен ИИ“. Така или иначе, дори самите му създатели казват, че са учудени от много от успешните резултати. Защото той не е създаван с идеята да пише акорди или код, да създава текстове, приличащи на нещо, а да прави само едно нещо: на базата на поредица от думи възможно най-точно да избере следващата.

Невронната мрежа търси шаблоните, повторенията, закономерностите и на базата на тях предполага резултата. В случая – доста успешно.

Състезанието в тази посока е колкото ожесточено, толкова и интересно.

И все пак, алгоритъмът на OpenAI наистина е важна стъпка и съвсем не е чудно, че през последната година все повече привлича погледите на техническите среди.

 

Тенекиеният човек

Самото название GPT-3 на пръв поглед не звучи много маркетингово, какво ще кажете? По принцип произхожда от Generative Pre-trained Transformer – „генеративен, предварително обучен трансформатор“.

„Предварителното му обучение“ ще рече, че той вече е „захранен“ с 570 гигабайта почти случаен текст от интернет, допълнен със специално селектирани от създателите му текстове, включително и от „Уикипедия“. Времето компютърна работа, която е отнело на нашия приятел да прочете и обработи информацията, според OpenAI е струвало 4,6 милиона долара.

Все пак, струва ми се, създателите на алгоритъма много добре знаят защо са решили да оставят това име. Едно псевдочовешко название в духа на Сири и Кортана със сигурност би предизвикало много по-крайни и нежелани асоциации. А тук не е за подценяване и връзката с добрия стар C-3PO, „тенекиения човек“ от „Междузвездни войни“. И нърдовете, които се очаква да се прехласват по такъв тип технологии.

Е, прехласваме се понякога. А най-хубавото е, че с малко късмет и убедителност всеки екип от програмисти може от първо лице да предложи свой вариант, по който да се използва платформата. Или поне скоро ще може, засега проектите се трупат в листа на чакащите, защото ресурсите са ограничени, а и проектът все още се води в бета версия. Очевидно създателите му смятат, че има какво да се доизкусурява по него.

Но пък може да опитате как се справя и вие. Повече от 300 са проектите, които го ползват за различни цели. Онлайн има вече доста платформи, които предлагат да „поговорите“ с чатбот, зад който се крие днешният ни герой. Може би пък не е лошо да свикваме малко по малко за времето, когато наистина ще можем да си говорим с машините като с приятели. Въпрос на време е, може би, да ги научим и да пият бира…

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.

Най-нови публикации:

People of Sofia срещу сивотата и безвремието

People of Sofia срещу сивотата и безвремието

„София днес е скучен град за снимане“, казва… Вихрен Георгиев, създателят на проекта People of Sofia. Може би не сте чували името му, но би било странно, ако не сте се вълнували от забележителните му фотографии.
Той е прекрасен фотограф от новото, дигиталното време, кадрите му са едновременно изкуство и злободневна история. Защото печелят вниманието, без да бягат от законите на изкуството и да се повеждат по лесната красота.
Просто показват хората на София такива, каквито са.
Нека от своя страна опитам да ви представя такъв, какъв е, човека, който вече почти десетилетие ги улавя в истинската им светлина.

повече информация
Живият музей на българската техника

Живият музей на българската техника

„Сега са последните години, в които може да се направи нещо по-сериозно, за да се спаси изчезващата история на българската техника. Сега е моментът за конкретни дела“, казва Антон Оруш. И делата му са изумителни. За 12 години с огромни усилия той събира най-пълната колекция с историята на българската техника и цяло море от информацията за миналото и настоящето ѝ. Едва на 30 той е жива енциклопедия, а домът му е забележителна библиотека от истории. Отправяме се на едно незабравимо технологично гостуване.

повече информация
Сам сред Фейсбук

Сам сред Фейсбук

Уж се заобикаляме с „приятели“ в още и още социални мрежи. И, прекалено често, си оставаме сами. Кога уж толкова социалният онлайн свят ни кара да се чувстваме самотни? Растат ли наистина поколения, които ще загубят нормалния човешки контакт? Кога самотата се превръща в проблем?

повече информация
„Още дълго ще расте гладът за айти специалисти“

„Още дълго ще расте гладът за айти специалисти“

Ивайло Христов е създател на dev.bg – начинанието, което позволява на софтуерните специалисти да си сверяват часовника. Да намерят лесно работата, на която да се чувстват добре. Сам той много добре знам колко е важно това: изоставя мечтаната работа в „Майкрософт“, за да захване свое начинание, което се превръща в сериозен успех.
Кои са българските софтуерни компании, от които очакваме сериозен пробив? В какво сме силни и къде изоставаме в тази толкова успешна у нас индустрия? Как за последните 20 години се създадоха цели нови мащабни професии и програмирането се превърна от екзотично занимание в най-търсеното поприще?

повече информация
И все пак… животът е по-силен

И все пак… животът е по-силен

„Животът е по-силен!“ От всичко, което ни се струпва всеки ден, от коронавируса, от мерките срещу него, от битките срещу мерките… от всичко. Защото, докато се лутаме в крайностите на обърканото настояще, докато се нахъсваме и озлобяваме едни срещу други… той си продължава. Именно това иска да ни припомни иконописецът Диан Костов. И от гледна точка на своето рядко срещано изкуство създава със съмишленици проекта с това име. Благодарение на него от високите силози и насред сивотата ни се усмихват над 150 деца, родени в тежките за всички ни последни години.

повече информация
Програмистката, която прати хора на Луната

Програмистката, която прати хора на Луната

На снимката е д-р Маргарет Хамилтън, шефката на екипа, създал софтуера, с който „Аполо 11“ се отправя към нощното ни светило. Мисията ще отведе първите хора на Луната през 1969 г.
А каква е тази купчина от папки? Софтуерът, създаден от Маргарет и екипа ѝ.
Какви ли са били най-големите предизвикателства, когато професията на софтуерния инженер все още не е съществувала?

повече информация

От рубриката:

Сам сред Фейсбук

Сам сред Фейсбук

Уж се заобикаляме с „приятели“ в още и още социални мрежи. И, прекалено често, си оставаме сами. Кога уж толкова социалният онлайн свят ни кара да се чувстваме самотни? Растат ли наистина поколения, които ще загубят нормалния човешки контакт? Кога самотата се превръща в проблем?

повече информация
5 технологии, от които очакваме много през 2022-а

5 технологии, от които очакваме много през 2022-а

Ето я, идва след броени дни! От 2022-а очакваме толкова много! Не само да ни отърве най-накрая от пандемията, но и да върне нормалното. А от нея очакваме и някои чисто технологични решения, всяко от които със сигурност има силата да промени живота на всеки един от нас.
И все пак: кои са технологичните направления, в които се надяваме задаващата се 2022-а да е особено гореща?

повече информация
Алгоритмите, които ни вкараха в „балона“

Алгоритмите, които ни вкараха в „балона“

Алгоритмите за препоръчване са тези, заради които попадаме в „балона на филтрите“. Те вече знаят всичко за нас, затова е важно и ние да научим повече за тях. Алгоритмите за машинно самообучение не са добри или лоши. Само от нас зависи каква власт им даваме…

повече информация

Най-новите:

People of Sofia срещу сивотата и безвремието

People of Sofia срещу сивотата и безвремието

„София днес е скучен град за снимане“, казва… Вихрен Георгиев, създателят на проекта People of Sofia. Може би не сте чували името му, но би било странно, ако не сте се вълнували от забележителните му фотографии.
Той е прекрасен фотограф от новото, дигиталното време, кадрите му са едновременно изкуство и злободневна история. Защото печелят вниманието, без да бягат от законите на изкуството и да се повеждат по лесната красота.
Просто показват хората на София такива, каквито са.
Нека от своя страна опитам да ви представя такъв, какъв е, човека, който вече почти десетилетие ги улавя в истинската им светлина.

повече информация
Живият музей на българската техника

Живият музей на българската техника

„Сега са последните години, в които може да се направи нещо по-сериозно, за да се спаси изчезващата история на българската техника. Сега е моментът за конкретни дела“, казва Антон Оруш. И делата му са изумителни. За 12 години с огромни усилия той събира най-пълната колекция с историята на българската техника и цяло море от информацията за миналото и настоящето ѝ. Едва на 30 той е жива енциклопедия, а домът му е забележителна библиотека от истории. Отправяме се на едно незабравимо технологично гостуване.

повече информация
Сам сред Фейсбук

Сам сред Фейсбук

Уж се заобикаляме с „приятели“ в още и още социални мрежи. И, прекалено често, си оставаме сами. Кога уж толкова социалният онлайн свят ни кара да се чувстваме самотни? Растат ли наистина поколения, които ще загубят нормалния човешки контакт? Кога самотата се превръща в проблем?

повече информация
„Още дълго ще расте гладът за айти специалисти“

„Още дълго ще расте гладът за айти специалисти“

Ивайло Христов е създател на dev.bg – начинанието, което позволява на софтуерните специалисти да си сверяват часовника. Да намерят лесно работата, на която да се чувстват добре. Сам той много добре знам колко е важно това: изоставя мечтаната работа в „Майкрософт“, за да захване свое начинание, което се превръща в сериозен успех.
Кои са българските софтуерни компании, от които очакваме сериозен пробив? В какво сме силни и къде изоставаме в тази толкова успешна у нас индустрия? Как за последните 20 години се създадоха цели нови мащабни професии и програмирането се превърна от екзотично занимание в най-търсеното поприще?

повече информация
И все пак… животът е по-силен

И все пак… животът е по-силен

„Животът е по-силен!“ От всичко, което ни се струпва всеки ден, от коронавируса, от мерките срещу него, от битките срещу мерките… от всичко. Защото, докато се лутаме в крайностите на обърканото настояще, докато се нахъсваме и озлобяваме едни срещу други… той си продължава. Именно това иска да ни припомни иконописецът Диан Костов. И от гледна точка на своето рядко срещано изкуство създава със съмишленици проекта с това име. Благодарение на него от високите силози и насред сивотата ни се усмихват над 150 деца, родени в тежките за всички ни последни години.

повече информация
Програмистката, която прати хора на Луната

Програмистката, която прати хора на Луната

На снимката е д-р Маргарет Хамилтън, шефката на екипа, създал софтуера, с който „Аполо 11“ се отправя към нощното ни светило. Мисията ще отведе първите хора на Луната през 1969 г.
А каква е тази купчина от папки? Софтуерът, създаден от Маргарет и екипа ѝ.
Какви ли са били най-големите предизвикателства, когато професията на софтуерния инженер все още не е съществувала?

повече информация
Share This