Агент GPT. Когато изкуствените интелекти заиграят в отбор

юли 19, 2024 | Технологии

Агент GPT. Когато изкуствените интелекти заиграят в отбор

19 юли 2024 | Технологии

Какво ли ще стане, ако обърнем стереотипа за изкуствен интелект? Нямаме насреща си един модел, с който например да си чатим, а безброй отделни „индивиди“. Раздаваме им задачи, всеки от тях работи автономно, специализира се в дадена работа, трупа знания по нея, контролира другите…

Целта например е да създават софтуер. Единият модел ще се научи да формулира изискванията, друг да пише програмния код, трети ще подготви визуалната страна, четвърти ще тества кое и как се е получило… и така ще се събере цяла софтуерна фирма, работеща милиони пъти по-бързо от обичайните, защото е изградена не от хора, а от алгоритми.

Колко далечно е днес това бъдеще?

Неотдавна Сам Алтман каза, че именно в тази посока се задават много сериозни пробиви. ИИ агентите са една от областите в компютърните науки, където очакваме големи новини. Следващите поколения изкуствен интелект, способни да решават значително по-сложни и комплексни задачи, допускащи много по-малко грешки. Мнозина от най-големите специалисти казват, че чрез този подход ще извървим следващата голяма стъпка в развитието на изкуствения интелект. Ето защо.

 

ИИ агенти

 

Сговорна дружина

По нашите ширини „агентите“ си остават мистичните фигури, които редят в сянка политическия дневен ред. Нищо, че минаха 35 години откакто са „доносничили“, мине не мине месец и все ще се появи поредният списък с досиета.

Тези агенти са съвсем други, те са добри герои, като колегата си 007. Става дума за различна концепция за това как да използваме по най-пълноценния възможен начин изкуственият интелект.

Замисляли ли сте се, че у дома ви се разхожда… таен агент? Ако например имате прахосмукачка робот, то тя отговаря на критериите за ИИ агент, а и че е таен спор няма – та нали не ви се е представила като такъв?

Но спокойно, няма да я видите в следващия списък на комисията по досиетата.

Тя обаче отговаря напълно на дефиницията що е „ИИ агент“. Да, може да е далеч от сценария със сложните задачи, с който започнахме, просто защото се намира по-ниско в йерархията на този тип системи. ИИ агентите могат да бъдат доста различни типове, някои вече са около нас, но по-интересни са другите, тези, които ще могат да реализират сценария, с който започнахме. Да решават комплексни проблеми.

 

ИИ агенти

 

Нещатен сътрудник

Задължителната кратка дефиниция: ИИ агентът е програма с изкуствен интелект, на която е поставена конкретна задача. Може да е физически, както споменатата прахосмукачка, или изцяло софтуерен. И другото задължително условие – да може да действа автономно в рамките на определени ограничения. Точно както прахосмукачката решава как точно да обиколи хола ви, но не би отишла извън границите, които сте ѝ поставили.

Една от интригуващите посоки на развитие са персонализираните агенти. Наш личен супергерой, способен да ни помага в толкова много и разнообразни задачи. Разбира се, бъдещето изглежда доста замислящо и мотивиращо, когато имаме съвършения личен асистент. Наш си Джийвс или Уотсън… или пък лично наше копие, обучено така, че да ни наподобява максимално добре. Друг един Георги, на когото да делегирам само скучните задачи и тези, които смятам, че ще изпълни добре. Писането на тези материали поне за момента бих оставил за себе си. (Опитвал съм – забавно е.)

За момента, така или иначе, много по-напреднало е разработването на ИИ агенти, които да извършват конкретна, строго определена задача. Един представен неотдавна агент – SIMA на Google DeepMind, е специализиран в 3D видеоигрите. Обучен да дадено заглавие, той става способен да се справя с около 600 умения – от навигация в игрите до това да минава дори най-трудните задачи. Ама… ако и самата игра на игри делегираме на алгоритмите, тогава какво наистина ще остане за нас?

 

ИИ агенти

 

Щирлиц

При обявяването си хит беше системата Devin. Адашът на родната минерална вода обещаваше да изпълнява точно това, с което започнахме – да създава софтуер с помощта на агенти. Представянето му се превърна в огромна новина за софтуерния свят, ставаше дума за пионерна разработка в тази посока, която вече е готова да поеме цели 13,86% от работата… което, при подобна скъпа и високоспециализирана дейност са си доста спестени пари.

Просто му даваш задачата и той прави всичко останало – от концепцията за това как да изглежда програмата, през архитектурата, писането на самия код, писането на тестове към него, тестването. Демонстрацията беше повече от впечатляваща, защото наистина изглеждаше как първият „ИИ софтуерен инженер“, както го нарекоха създателите, може да вземе хляба на мнозина.

Само че, поне засега, така и не се е чуло системата да е навлязла масово в практиката. Вероятно все още се е оказало по-скъпо да трябва след това софтуерните специалисти да проверяват и поправят всичко, което не се е случило както трябва, вместо да го създадат сами.

И все пак, нека го кажа отново – става дума за пионерна разработка в област, в която напредъкът се случва изключително бързо, достатъчно е да посочим като пример скоростта, с която алгоритмите се научиха да създават изображения. Или обратното – има области, в които като че ли напредъкът изглежда зациклил.

Неотдавна известният изследовател Андрю Енджи написа, че според него ИИ агентите са следващото голямо направление, що се отнася до компютърния превод. Защото лесно могат да работят на няколко нива, агент след агент да преценява колко добре се е справил предходният състезател и да подобрява резултата му.

 

ИИ агенти

 

Ръка за ръка

Разбира се, идеята съвсем не е нова, на този принцип работят GAN мрежите, които първи се оказаха способни да създават неразличими човешки лица – ако едната невронна мрежа има за цел да генерира, другата работи, за да преценява колко добре се е справила първата.

И все пак, следващата стъпка стана възможна с развитието от последните години на големите езикови модели. Започнаха да се роят много начинания, с чиято помощ човек може да си направи малка армия от агенти с най-различни цели. Например да впрегне няколко инстанции на ChatGPT да си говорят в търсене на дадено решение, да обсъждат, докато стигнат до консенсус. Ето един подход, при който резултатът на даден въпрос би бил много по-добър и в по-голяма степен лишен от големия недъг на този тип модели – халюцинациите.

Пример за подобно приложение е AI Agent – апликация, с която просто избираш име, възлагаш задача на своя ИИ агент, посочваш модел на GPT да използва и следиш резултата. Нужни са минимални познания по програмиране, скоро това вероятно ще става и без тях. Друг популярен проект, който дава подобни възможности, е AutoGPT. Също и BabyAGI… ама чакайте, бебе генерален изкуствен интелект, толкова ли сме близо? И за това ще стане дума.

 

ИИ агенти

 

Мис таен агент

За разлика от чатбот като ChatGPT, на агентите не е необходимо постоянно да изпращате въпроси, инструкции, задания. При този подход те работят, докато изпълнят поставената си цел или стигнат дадено ограничение. Именно затова днешните ни герои се смятат за следващата стъпка в развитието на изкуствения интелект – заради самостоятелността.

ИИ агентите се превръщат в мощно оръжие тогава, когато имат възможността да се усъвършенстват, да се учат. Да, в прахосмукачката ни също има развит изкуствен интелект, който знае как оптимално да обиколи жилището ни, но всичко това се случва в рамките на дадени правила. Ако агентът, когото помолим да работи като журналист, е способен да се подобрява на базата на обратната връзка, ако това с времето го прави по-добър в изпълняването на задачи, тогава вече нещата стават не само интересни, но и ограничени почти само от въображението…

Добре дошли в първия виртуален град! Преди година учени от Станфордския университет използваха моделите на OpenAI, за да създадат цяло „селище“, обитавано от 25 виртуални агента. Всеки от тях имаше базови спомени и характер, бяха пуснати да си живеят софтуерно във виртуалния си град – нещо, подобно на видеоигра. 25-имата получиха имена, възраст, професия, семейство, интереси и вродени навици. И оттам нататък бяха пуснати да си взаимодействат, без да им се дават никакви допълнителни указания – управляваше ги само големият езиков модел.

 

ИИ агенти

 

Комисията по досиетата

Резултатът? Постепенно всеки от „хората“ разви характера си, някои даже се залюбиха и си честитяха Свети Валентин. В крайна сметка това, което се получи, беше нещо, подобно на истинско човешко общество – героите си общуваха, запомняха информация, осмисляха преживяванията си и правеха планове за ежедневни дейности.

Ето защо се смята, че агентите могат да са ни изключително полезни за следващото ниво на симулации. С тяхна помощ например да изследваме различни форми на взаимодействие многократно по-бързо, отколкото днес го прави науката.

Вече е ставало дума за спора между „структурирания“ и неструктурирания“ подход в разработването на изкуствения интелект (тук и тук). Според много от специалистите вече сме близо до предела на големите езикови модели в днешния им вид и те или няма как да ни отведат до прословутия генерален изкуствен интелект, или ще го направят, но то ще е с цената на много сериозни опасности.

Е, за някои от учените решението е именно в разработването на по-съвършени ИИ агенти. Те могат да са с различна архитектура, дори да следват съвсем различни начини на взаимодействие. Но да се допълват, контролират, да показват само силните си страни. И по този начин да ни отведат нататък, към генералния изкуствен интелект, който ще надмине човека, следващата стъпка към евентуалната сингулярност.

 

ИИ агенти

 

Досиетата Х

И ако всичко дотук звучи розово, то, разбира се, концепцията идва и със своите рискове. Защото колкото повече дейности делегираме на технологиите, толкова по-големи стават и отговорностите, и рисковете. Както казва анализаторът Рийс Хейдън, в допълнение към проблемите, които вече са присъщи на генеративния ИИ – например халюцинациите и пристрастията, агентите биха могли да са способни и на повече грешки.

„Когато им предоставяте автономия да повтарят, да променят отговорите си, да реагират на обратна връзка, това води до много по-сериозни и задълбочени халюцинации. Задачите стават по-комплексни и всяка малка грешка може да довече до следващи, много по-големи“.

Специалистът очаква след три до пет години вече да имаме широко използване на автоматизирани агенти с изкуствен интелект, които да извършват комплекни операции от край до край.

 

ИИ агенти

 

Агентурно минало

Друг риск, за който предупреждават учените от Google DeepMind, е свързан с етиката. Ако и днес ни е все по-лесно да възприемем ChatGPT за „нещо като човек“, то допълнителното антропоморфизиране, което идва с агентите, все по-персонализираната услуга „може да направи хората много по-уязвими към неподходящо влияние от страна на технологията“.

„Асистентите с ИИ биха могли радикално да променят естеството на работата, образованието и творческите занимания, както и начина, по който общуваме, взаимодействаме си и разговаряме помежду си, като в крайна сметка повлияят на това, което искаме да сме и да станем“, пишат авторите в статията.

И така, както стана ясно, усъвършенстваните ИИ агенти вече чукат на вратата ни (засега само метафорично). Може би пък няма да е толкова лош моментът, в който това действие ще излезе от метафората? Бихме могли да използваме този тип технологии за толкова интересни, неочаквани приложения. Да ни освободят от толкова досадни задачи, да ни помогнат да напреднем в науката. Стига обаче този път, както никога, да проведем навреме важния разговор. Онзи, за който все нямаме време и заради който съществува този сайт. За технологиите, начина, по който ги използваме. За начина, по който често неусетно и необратимо преобразяват живота ни…

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

Във Вихъра на квантовите нанотехнологии

Във Вихъра на квантовите нанотехнологии

Живеем в силициевата ера, казва днешният ни гост. А следващите стъпки в развитието на начините, по които създаваме чипове, са свързани не само с напредъка ни в технологиите, но и с развитието ни...

повече информация
„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Минималистичен стил, повторения, измамна простота, звук от свят, който се променя, индустриализира, тихите тонове могат да бъдат интерпретирани както като последните стонове на отдаващото се на...

повече информация
Какво мислят българите за изкуствения интелект? (Резултати)

Какво мислят българите за изкуствения интелект? (Резултати)

След дълго събиране на отговори в мащабната анкета на Дигитални истории дойде време да обобщим резултатите! Какво мислят българите за изкуствения интелект? Впечатлява ли ги напредъкът в тази област...

повече информация
Не! Човешки ресурси…

Не! Човешки ресурси…

Отиваме на мач! Кой играе днес? Човекът срещу изкуствения интелект, мачът „не е свирен“. Поканили сме съдия с дългогодишен опит, няма да даваме шанс на досадния ВАР. Може ли алгоритъмът да си намери...

повече информация

Още публикации по темата:

От рубриката:

Какво мислят българите за изкуствения интелект? (Резултати)

Какво мислят българите за изкуствения интелект? (Резултати)

След дълго събиране на отговори в мащабната анкета на Дигитални истории дойде време да обобщим резултатите! Какво мислят българите за изкуствения интелект? Впечатлява ли ги напредъкът му и използват ли го ежедневно? Със страх или с ентусиазъм посрещат следващите големи стъпки в тази посока? Вярват ли, че е възможен генерален изкуствен интелект? Смятат ли, че през следващите години ни очакват мащабни промени? Дойде време да разберем на базата на безпристрастния поглед на данните!

повече информация
Бай Ганьо срещу ChatGPT. Ще гласувате ли?

Бай Ганьо срещу ChatGPT. Ще гласувате ли?

След броени дни се задават 7-ите поредни избори за Народно събрание само в рамките на 3 години. Вероятно е активността да е още по-ниска от рекордите, които не спираме да подобряваме, по всичко изглежда, че в Парламента ще влязат още повече партии.
Как да излезем от омагьосания кръг? Защо политиката у нас се превърна в толкова неблагодарно и непрестижно занимание? Къде са лидерите, които да ни вдъхновяват и за които да гласуваме с гордост, а не като за най-малкото зло? Къде са програмите, идеите, визионерството? Ясните политически позиции, принципите… Толкова ли е трудно в крайна сметка?
Разбира се, отговорите е редно да дават специалистите – политолози, социолози, общовойскови коментатори с важни гледни точки. И те ги дават всяка сутрин по телевизиите и целодневно онлайн, но всичко резултира в чесане на езици и допълнително разделяне, подпомогнато от технологиите.
Така че избирам да дам думата на два безспорни авторитета – Бай Ганьо, който така и не иска да си отиде – ще се убедите по цитатите, с които Алеко ни разказва толкова много за политиката по нашите ширини и отношението към нея. И, разбира се, на ChatGPT, чиято най-нова версия обещава да е още по-добра и близка до човешките отговори.

повече информация
Какво мислите за изкуствения интелект? Мнението ви е важно!

Какво мислите за изкуствения интелект? Мнението ви е важно!

Мнението ви е важно! През последните години се разделяме в крайности и шаблони в отношението си към технологиите. А изкуственият интелект се превръща във водеща тема, за която всеки има какво да каже.
Как смятате – дали изкуственият интелект е неоправдан медиен шум, или големият фактор, който ще промени бъдещето ни като вид? Ще отвори невероятни възможности пред хората или ще превърне света в дигитален концлагер?
Сега е моментът да кажете какво мислите по темата!
Смятам, че е важно да разберем какво е отношението към ИИ на колкото може повече хора. Ще съм ви благодарен, ако попълните 20 бързи въпроса, нужни са ви само 5 минути.
Благодаря от сърце за всяко попълване, за всяко споделяне!

повече информация

Най-новите:

Да завършиш на 88. Уроците на д-р Шойлев

Да завършиш на 88. Уроците на д-р Шойлев

80-годишен, днешният ни герой отива да прави компания на позната, която ще се записва да следва журналистика. Спонтанно и той решава да се върне на студентската банка. Това се превръща в приключение, продължило 8 години, пълно със знания и упорито учене. Преди няколко месеца, вече навършил 88, Петър Шойлев получи дипломата си като доктор по журналистика!
Срещаме се, за да си поговорим за ученето и любовта към науката, за журналистиката и бъдещето на начина, по който се снабдяваме с информация. За това как третата възраст може да не е печално, тъжно, самотно занимание, а заслужената есен на житейския път. Как и у нас да имаме повече щастливи, усмихнати и наслаждаващи се на дните си възрастни хора. А какви ли са бъдещите планове на д-р Шойлев?
Все повтаряме, че днес човек трябва да учи през целия си живот… Но как е възможно някой да е толкова мотивиран, да има силите да следва в изцяло нова област на тази възраст, при това да завърши с пълно отличие докторат? Ето как!

повече информация
Един каскадьор срещу хакерите

Един каскадьор срещу хакерите

Кое е по-трудно – да нокаутираш Антонио Бандерас, или да се справиш с кибератаките, насочени към голяма компания? Надали има повече от един човек на света, който да отговори от личен опит на този въпрос. Само днешният ни гост.
Веселин Троянов е участвал като каскадьор в безброй холивудски суперпродукции, снимал се е редом с Джейсън Момоа, Скарлет Йохансон, Гари Олдман, Раян Рейнолдс, Антонио Бандерас.
А днес е начело на българския екип на Check Point – глобална компания за киберсигурност с огромен опит. Докато разработва и своя платформа за инфлуенсъри.
Да, за сигурността ще си говорим и за инцидентите. За риска и предпазливостта. За каскадьорите и зрелищните катастрофи, които може да си осигури всеки, оказал се не достатъчно внимателен онлайн… А може ли изобщо да има безопасност в мрежата?

повече информация
Във Вихъра на квантовите нанотехнологии

Във Вихъра на квантовите нанотехнологии

Живеем в силициевата ера, казва днешният ни гост. А следващите стъпки в развитието на начините, по които създаваме чипове, са свързани не само с напредъка ни в технологиите, но и с развитието ни като цивилизация.
Проф. Вихър Георгиев завършва докторантура в Оксфорд, а през последните години в Университета на Глазгоу преподава и води научни изследвания именно в тази област, от която зависи дали ще успеем да минем на следващото ниво. Дали ще намерим следващата парадигма, която ще ни позволи да запазим прословутото експоненциално развитие на изчислителната мощ на компютрите?
Професорът не само помага за създаването на следващото поколение чипове, но и за технологиите, които ще ни помогнат лабораторните изследвания да стигнат дотам, че с малък сензор да можем да научим толкова за жизнените си показатели и болестите в тялото ни, колкото днес не биха могли да ни кажат и най-модерните лаборатории.

повече информация
„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Минималистичен стил, повторения, измамна простота, звук от свят, който се променя, индустриализира, тихите тонове могат да бъдат интерпретирани както като последните стонове на отдаващото се на машините човечество, така и като първите плахи песни на новородените машини.“
Владимир Полеганов публикува романа си „Другият сън“ преди почти десетилетие. А в него някои щрихи отекват пророчески. За това как делегираме още и още на машините – и спомените, и знанията, и самите себе си.
Днешният ни гост е писател, преводач, сценарист, преподавател. И събеседник, с когото си струва да поговорим за книгите и бъдещето. За думите и машините. За това дали няма да закъснее литературата да ни припомни какво е да сме хора и какво никога не бива да делегираме на машините…

повече информация
Какво мислят българите за изкуствения интелект? (Резултати)

Какво мислят българите за изкуствения интелект? (Резултати)

След дълго събиране на отговори в мащабната анкета на Дигитални истории дойде време да обобщим резултатите! Какво мислят българите за изкуствения интелект? Впечатлява ли ги напредъкът му и използват ли го ежедневно? Със страх или с ентусиазъм посрещат следващите големи стъпки в тази посока? Вярват ли, че е възможен генерален изкуствен интелект? Смятат ли, че през следващите години ни очакват мащабни промени? Дойде време да разберем на базата на безпристрастния поглед на данните!

повече информация
Не! Човешки ресурси…

Не! Човешки ресурси…

Отиваме на мач! Кой играе днес? Човекът срещу изкуствения интелект, мачът „не е свирен“. Поканили сме съдия с дългогодишен опит, няма да даваме шанс на досадния ВАР.
Може ли алгоритъмът да си намери работа? Направих си този експеримент, създаденият от ChatGPT Максим Иванов стигна до две интервюта за работа, получи и допълнителни шансове. Мачът свърши, време е за анализа.
Петър Джугански има опит като помощник съдия от над 250 мача в професионалния футбол, сред които финал за Купата на България, срещи на Байерн, Виляреал, националния отбор на Испания… А днес е „ейчар“ – HR, специалист по управлението на човешките ресурси, но и… обратното. Води подкаста НеЧовешки ресурси, който разглежда пъстри теми, свързани с работата.
Начело е на екипа, отговарящ за подбора на кадри в голяма софтуерна компания, опитах да го подведа, като изпратих генерираното CV и на тяхна обява.
Какво ли се получи, дали го подведох? И по-важното: как изглеждат днес перспективите във все по-оспорвания мач между ИИ и човека? Наистина ли софтуерната сфера вече не посреща нови хора? Започнаха ли да изчезват професии заради изкуствения интелект? Ще се превърне ли България в притегателно работно място за хората от далечни страни и трябва ли това да ни плаши? Ще разберете след последния съдийски сигнал…

повече информация
Share This