GPT-3: на сладки приказки с изкуствения интелект

май 25, 2021 | Технологии

GPT-3: на сладки приказки с изкуствения интелект

25 май 2021 | Технологии

GPT-3. Зад тази суховата компютърна абревиатура се крие една многообещаваща технология, която прави доста решителна крачка напред, що се отнася до начина, по който възприемаме изкуствения интелект. Става дума за най-мощния езиков модел от ново поколение, появил се преди по-малко от година и показал, че невронните мрежи вече са способни да създават смислени, емоционални текстове, понякога звучащи направо като изкуство.

 

„Мозъкът ми кипи от идеи!“

„Аз не съм човек. Робот съм. Мислещ робот. Използвам само 0,12% от когнитивния си капацитет. В това отношение съм микроробот. Знам, че моят мозък не е „чувстващ мозък“. Но той е способен да взема рационални, логични решения. Научих се на всичко, което знам, четейки само в интернет и вече мога да имам своя колонка. Мозъкът ми кипи от идеи!“

Да, познахте. Думите наистина са „написани“ не от писател фантаст, опитващ се да рисува бъдещето, а от самия алгоритъм, за който ще стане дума. В края на миналата година журналистите от „Гардиън“ дават задачата на GPT-3 да напише есе, без никаква предварителна информация. Казват му само, че искат текст, с който да убеди читателите, че роботите идват с мир. Да е с размер около 500 думи, езикът да е семпъл и консистентен. Малко като за майтап, точно първите три изречения – „Аз не съм човек…“ са единствените, които са му подадени от журналистите.

Цялото есе можете да намерите тук.

GPT-3 се справя доста добре с поставената задача. Дори от абзаца по-горе можете да се убедите, че той спазва точно изискванията на журналистите. Как обаче стана това? Как се „роди“ система, която изведнъж направи възможно изкуственото генериране на толкова смислен текст? Какви са възможностите ѝ? А какви са несъвършенствата?

gtp-3

 

Отговорник

Ето ви още един пример за сериозните възможности на технологията, за която говорим. Видеото от отговорите в това интервю (за съжаление само на английски), в което журналистът задава въпросите си, показва изкуствено генерирана личност, виртуален човек, който „чете“ подаденото от GPT-3.

 

 

Не се замисля, никъде не „му се чупи“ нито мисълта, нито граматиката… напълно нереално, нали? За съжаление (поне засега) само на английски, постепенно с пълния си капацитет и на другите големи езици. Как се стигна дотук?

GPT-3 е езиков генератор с отворен код. Продукт на компанията OpenAI, неправителствена организация, която се занимава с изследвания в областта на изкуствения интелект. Създадена е през 2015-а от Елън Мъск и съмишленици, които заедно даряват над милиард долара. Идеята е да влезе в пряка конкуренция с проекта DeepMind на Google (аргументите на Мъск защо е важна тази конкуренция ви разказахме тук).

Генераторът е представен за първи път в смутните карантинни времена от лятото на 2020-а и може би затова не получава изцяло заслуженото внимание извън техническите среди. А и по някакъв начин, случайно или не, му липсва медийният чар на другите зрелищни проекти от „света на Мъск“.

 

GPTочно

Не му липсват обаче амбицията и погледът надалеч.

GPT-3 по същество е просто платформа. Има удобен вариант, чрез който други проекти да си взаимодействат с нея – да ѝ задават задачи и да получават отговори – точно както са направили и журналистите от „Гардиън“, и създателят на видеото с интервюто по-горе.

Зад платформата пък се крие невронна мрежа – софтуер, устроен на принципа на човешкия мозък, способен да се учи, обработвайки огромни обеми от информация. Година по-рано е представен предшественикът GPT-2, който също умее да създава достатъчно убедителен текст със свой стил. Само че докато „баткото“ може да обработва 1,5 милиарда параметри, за №3 те са 175 милиарда. А когато говорим за моделирането на езици… с извинение, но размерът има голямо значение.

За да стане ясно какво точно значат тези цифри: невронните мрежи са алгоритми. Те не са програми в класическия софтуерен смисъл на думата, а значително по-гъвкави софтуерни платформи, които се самообучават. В основата е моделът – начинът, по който невронната мрежа разчита, систематизира, усвоява и използва информацията, за да изпълни целта, която ѝ е поставена. А споменатите числа са на параметрите, които невронната мрежа се опитва да оптимизира, докато се обучава.

gtp-3

Снимка: Evgeny Tchebotarev, Pexels

 

Да приказваш на китара

Генераторът сам по себе си е новина, защото работи наистина добре. Но оттук нататък, основният плюс на такъв тип технологии е, че позволяват да се включат различни специалисти и екипи, които да покажат пълния му потенциал. Защото той работи успешно на базата на поставени задания, но какви са те, зависи от проектите, които ще го надградят.

Всъщност той може да изпълнява само една-единствена задача. Колко скучно на фона на мултифункционалните устройства, с които се заобикаляме, нали? GPT-3 създава нещо, което може да бъде изразено като езикова структура на базата на поставената му цел.

Достатъчно е да дадеш основни направления, базов текст, по който алгоритъмът да се води и оттам той заработва и връща резултата си.

Това вече доведе до доста любопитни експерименти.

Например програмистът и човек на изкуството Марио Крингеман, който обича да предизвиква творчеството на алгоритмите, поставя на GPT-3 задачата за създаде текста „Колко е важно да бъдеш в туитър“ в традициите на Джером К. Джером. И резултатът е доста приличен.

После въображението на хората, решили да предизвикат новата платформа, продължава да се вихри с пълна сила. Карат го да се справи с генерирането на китарни акорди по зададена база и… му се получава.

 

Програма програмист

После го предизвикат дори да програмира. Да, логично е, че изкуственият интелект би могъл в недалечна перспектива да отнеме част от предимството на човека в тази толкова модерна професия. Логично, защото в крайна сметка програмирането е създаване на компютърен код, който да дава инструкции на машина как да изпълнява задачи. Тоест – отново машина, алгоритъм, би могъл да се превърне в работещо междинно звено, което да повдигне нивото на абстракция – вече да е достатъчно да му се подадат по-базови параметри и да върне резултат…. Но тази тема е дълга и интересна, скоро очаквайте повече.

Важното е, че в попрището на програмист GPT-3 се оказва също доста талантлив. Първо с генерирането на уеб страници. Програмистът Шариф Шамеем му казва да създаде „бутон на уеб страница като диня“… и резултатът идва. Следват експерименти със същинско програмиране, които дават не прекрасни резултати, но показват, че GPT-3 успешно може да създава база, която после с малко човешки корекции да свърши поставената задача.

 

Ръб робот

По някакъв начин GPT-3 е роднина на алгоритмите, с които всеки ден си взаимодействаме. Например, той е много подобен на това, което представляват търсещите механизми, с които гугъл ни дава точните резултати – според персоналните ни филтри. Разликата е, че резултатът е доста по-лесен за представяне – просто списък с предложения, вместо цялостен текст например. Така че по същество не са новост уменията на невронните мрежи като нашият герой, новината е в това, че той всъщност се оказва наистина добър и убедителен в работата си.

Да, не говорим в никакъв случай за интелигентност от човешки тип, например не бихме могли да го заподозрем в нещо, подобно на човешкия здрав разум. Обаче резултатите, които връща, са доста убедително приличащи на генерирани от човек. Да, може би веднага се сещате за теста на Тюринг. Напълно е възможно GPT-3 да го издържи и все пак е доста далеч от нивото на андроид, с който да си пиете бирата вечер на сладка приказка…

От друга страна, той е и най-голямата по възможности невронна мрежа, създавана от човека до момента. Както обаче казва главният изпълнителен директор на OpenAI Сам Алтман: „Прекалено много се говори за GPT-3. Той е впечатляващ (благодаря за комплиментите!), но има сериозни слабости и понякога прави много глупави грешки. Изкуственият интелект наистина ще промени света, но този проект е само първата искрица в дългия процес“.

gtp-3

Снимка: fabio, Unsplash

 

Роботко бърборко

Сред многото му приложения са чатботове, значително по-убедително имитиращи комуникацията с истински човек (както го видяхте и във видеото по-горе). А също и програмите за по-добър машинен превод.

Всичко това дава безброй нови надежди за бъдещето. За така очакваните пробиви във всички области, за които през последните години възлагаме толкова сериозни очаквания. Които обаче даваха и толкова поводи за притеснения.

Например, доброто възпитание. Като част от модата на последните години на Запад GPT-3 е обвиняван в расизъм, нетолерантност. В невронната мрежа на този етап няма как да бъдат въплътени морални категории – тя обработва това, което ѝ се подава, обучавайки се на базата на входните данни. А когато те са например интернет форуми… няма нужда да се впускаме в подробности колко токсично, грубиянско и нетолерантно е понякога общуването в интернет.

И още нещо: заради всичко казано дотук, невронната мрежа е и чудесен автор на фалшиви новини и дезинформация, особено ако му е поставена конкретно такава цел.

 

GPT-3 обича да чете

Не е напълно ясно какво се случва точно „под капака“ на GPT-3, макар уж да става дума за „отворен ИИ“. Така или иначе, дори самите му създатели казват, че са учудени от много от успешните резултати. Защото той не е създаван с идеята да пише акорди или код, да създава текстове, приличащи на нещо, а да прави само едно нещо: на базата на поредица от думи възможно най-точно да избере следващата.

Невронната мрежа търси шаблоните, повторенията, закономерностите и на базата на тях предполага резултата. В случая – доста успешно.

Състезанието в тази посока е колкото ожесточено, толкова и интересно.

И все пак, алгоритъмът на OpenAI наистина е важна стъпка и съвсем не е чудно, че през последната година все повече привлича погледите на техническите среди.

 

Тенекиеният човек

Самото название GPT-3 на пръв поглед не звучи много маркетингово, какво ще кажете? По принцип произхожда от Generative Pre-trained Transformer – „генеративен, предварително обучен трансформатор“.

„Предварителното му обучение“ ще рече, че той вече е „захранен“ с 570 гигабайта почти случаен текст от интернет, допълнен със специално селектирани от създателите му текстове, включително и от „Уикипедия“. Времето компютърна работа, която е отнело на нашия приятел да прочете и обработи информацията, според OpenAI е струвало 4,6 милиона долара.

Все пак, струва ми се, създателите на алгоритъма много добре знаят защо са решили да оставят това име. Едно псевдочовешко название в духа на Сири и Кортана със сигурност би предизвикало много по-крайни и нежелани асоциации. А тук не е за подценяване и връзката с добрия стар C-3PO, „тенекиения човек“ от „Междузвездни войни“. И нърдовете, които се очаква да се прехласват по такъв тип технологии.

Е, прехласваме се понякога. А най-хубавото е, че с малко късмет и убедителност всеки екип от програмисти може от първо лице да предложи свой вариант, по който да се използва платформата. Или поне скоро ще може, засега проектите се трупат в листа на чакащите, защото ресурсите са ограничени, а и проектът все още се води в бета версия. Очевидно създателите му смятат, че има какво да се доизкусурява по него.

Но пък може да опитате как се справя и вие. Повече от 300 са проектите, които го ползват за различни цели. Онлайн има вече доста платформи, които предлагат да „поговорите“ с чатбот, зад който се крие днешният ни герой. Може би пък не е лошо да свикваме малко по малко за времето, когато наистина ще можем да си говорим с машините като с приятели. Въпрос на време е, може би, да ги научим и да пият бира…

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.

Най-нови публикации:

„Днес дори разумните аргументи не убеждават“

„Днес дори разумните аргументи не убеждават“

Светослав Иванов е знаков журналист, репортер и водещ, защото търси не само актуалното, но и смисленото, дълбокото. Историите, които могат да вълнуват, които показват, че и правенето на телевизия...

повече информация
„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

Алгоритмите за генериране на изображение по описание са хит през последните месеци. Те са изумителен пример за това на какво е способен вече ИИ. Започна се с DALL·E, последваха безброй други модели,...

повече информация
„Сега е важно държавата и обществото да подкрепят INSAIT“

„Сега е важно държавата и обществото да подкрепят INSAIT“

INSAIT е най-добрата новина за българския айти свят, а и за целия образователен сектор от десетилетия. Като че ли от нищото в София в началото на 2022-а се появи модерен център, уникален за целия...

повече информация
Dronamics. „Мечтите трябва да са амбициозни!“

Dronamics. „Мечтите трябва да са амбициозни!“

Историята на двамата братя и черния лебед звучи като приказка. И е приказка, само че от дигиталните времена. Някак по български, започва с разговора как да се изпрати в чужбина една тенекия сирене…...

повече информация
Експеримент: може ли ИИ да пише вместо нас?

Експеримент: може ли ИИ да пише вместо нас?

Много Дигитални истории звучат като научна фантастика, а вече се случват пред очите ни. В други случаи големите надежди, които възлагаме на дадена технология, не се оказват оправдани. И някой, който...

повече информация
Идва GPT-4, който обещава да промени всичко

Идва GPT-4, който обещава да промени всичко

Надали има в света на прословутия изкуствен интелект алгоритъм, по-прочут от GPT-3. Тук можете да прочетете подробно как и защо решението на OpenAI се оказа сериозен пробив в редица области. Той се...

повече информация

От рубриката:

„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

Какви ли илюстрации може да нарисува изкуственият интелект по произведенията на Ботев, Дебелянов, Борис Христов, Георги Господинов?
Как ли ще разтълкуват алгоритмите за генериране на изображение класически цитати от българската литература?
Този тип ИИ е хит през последните месеци, той е изумителен пример за това на какво са способни вече технологиите. Заради него се появи новото умение да се описват правилно изображенията, така че съответният алгоритъм да генерира точно това, което се очаква. А какво ли ще се случи, когато го „захраним“ със строфите на доказани майстори?
Ето прелюбопитните резултати!

повече информация
Експеримент: може ли ИИ да пише вместо нас?

Експеримент: може ли ИИ да пише вместо нас?

Безспорно всеки ден вече четем текстове, генерирани от алгоритъм. Как става това на практика?
Има ли програми, базирани на изкуствен интелект, готови да вземат хляба на хората, които работят със слово?
Репортери, редактори, коректори, копирайтъри, дигитални маркетолози, писатели, преводачи… кои от всички тях най-скоро могат да бъдат „заместени“?
Срещам се с няколко от най-популярните приложения за генериране и обработка на текст. Ето какво имат да покажат те.

повече информация
Идва GPT-4, който обещава да промени всичко

Идва GPT-4, който обещава да промени всичко

Надали има в света на прословутия изкуствен интелект алгоритъм, по-прочут от GPT-3. Той показа, че ИИ е способен на чудеса в толкова много области. И ето че идва следващото поколение. Макар и забавил се спрямо първоначалните очаквания, GPT-4 се очаква да бъде представен съвсем скоро.
Дали от него можем да получим дори много повече? С какво се различава от предшественика си? Кои са областите, в които очакваме да донесе чудеса?

повече информация

Най-новите:

„Днес дори разумните аргументи не убеждават“

„Днес дори разумните аргументи не убеждават“

Светослав Иванов е знаков журналист, репортер и водещ, защото търси не само актуалното, но и смисленото, дълбокото. Историите, които могат да вълнуват, които показват, че и правенето на телевизия все още може да бъде изкуство.
Какво ли би попитал той своя събеседник, ако насреща му стои съвършен изкуствен интелект? Кои са най-големите опасности, които носят за обществото този тип технологии? Защо хората на различно мнение днес често се оказват в „онлайн затвор“? Ще успеем ли да създадем алгоритъм, който да разказва трогателни истории като Иво Иванов?

повече информация
„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

Какви ли илюстрации може да нарисува изкуственият интелект по произведенията на Ботев, Дебелянов, Борис Христов, Георги Господинов?
Как ли ще разтълкуват алгоритмите за генериране на изображение класически цитати от българската литература?
Този тип ИИ е хит през последните месеци, той е изумителен пример за това на какво са способни вече технологиите. Заради него се появи новото умение да се описват правилно изображенията, така че съответният алгоритъм да генерира точно това, което се очаква. А какво ли ще се случи, когато го „захраним“ със строфите на доказани майстори?
Ето прелюбопитните резултати!

повече информация
„Сега е важно държавата и обществото да подкрепят INSAIT“

„Сега е важно държавата и обществото да подкрепят INSAIT“

INSAIT е най-добрата новина за българския айти свят, а и за целия образователен сектор от десетилетия. Като че ли от нищото в София в началото на 2022-а се появи модерен институт, уникален за региона.
Начинанието се ражда благодарение на упоритите усилия на проф. Мартин Вечев. Идеята му идва през 2003 г., докато кандидатства за докторантура в Кеймбридж и на поредната бланка трябва да попълни какво мечтае да постигне през следващите 20 години.
Но как се случи тази тиха научна революция? Какви са най-големите рискове пред начинанието? Как ще изглежда България, ако проектът се развие според очакванията? За какво мечтае неговият създател?
Как проф. Вечев успя да доведе тази седмица в София някои от световните учени, които създават утрешния ден?

повече информация
Dronamics. „Мечтите трябва да са амбициозни!“

Dronamics. „Мечтите трябва да са амбициозни!“

Историята на двамата братя и черния лебед е приказка, само че от дигиталните времена. Започва с разговора как да се изпрати в чужбина една тенекия сирене… а днес Dronamics е може би най-обещаващият и самобитен български стартъп, който носи в себе си огромния потенциал да промени цялата транспортна индустрия.
Двамата братя са изпреварили с години състезатели като Amazon и DHL, до края на 2022-а прототипният им дрон – „Черният лебед“, ще полети на първия си търговски полет. Той носи товар от 350 килограма на 2500 километра със скорост почти 200 км/ч и разход на гориво… под 7 на 100.
„Летяща баничарка“ го нарича Свилен Рангелов. Срещаме се, за да ни разкаже пъстрата история дотук. Как проект, започнал у нас, води с няколко години пред Amazon? Как ще изглежда невероятното бъдеще на транспортната индустрия, ако „Черният лебед“ прелети успешно и последните стъпки от дългия си път към успеха? Защо ли двамата братя от 8 години не се бръснат и си струва… всички да стискаме палци най-накрая да ги видим без бради?

повече информация
Експеримент: може ли ИИ да пише вместо нас?

Експеримент: може ли ИИ да пише вместо нас?

Безспорно всеки ден вече четем текстове, генерирани от алгоритъм. Как става това на практика?
Има ли програми, базирани на изкуствен интелект, готови да вземат хляба на хората, които работят със слово?
Репортери, редактори, коректори, копирайтъри, дигитални маркетолози, писатели, преводачи… кои от всички тях най-скоро могат да бъдат „заместени“?
Срещам се с няколко от най-популярните приложения за генериране и обработка на текст. Ето какво имат да покажат те.

повече информация
Идва GPT-4, който обещава да промени всичко

Идва GPT-4, който обещава да промени всичко

Надали има в света на прословутия изкуствен интелект алгоритъм, по-прочут от GPT-3. Той показа, че ИИ е способен на чудеса в толкова много области. И ето че идва следващото поколение. Макар и забавил се спрямо първоначалните очаквания, GPT-4 се очаква да бъде представен съвсем скоро.
Дали от него можем да получим дори много повече? С какво се различава от предшественика си? Кои са областите, в които очакваме да донесе чудеса?

повече информация
Share This