Агент GPT. Когато изкуствените интелекти заиграят в отбор

юли 19, 2024 | Технологии

Агент GPT. Когато изкуствените интелекти заиграят в отбор

19 юли 2024 | Технологии

Какво ли ще стане, ако обърнем стереотипа за изкуствен интелект? Нямаме насреща си един модел, с който например да си чатим, а безброй отделни „индивиди“. Раздаваме им задачи, всеки от тях работи автономно, специализира се в дадена работа, трупа знания по нея, контролира другите…

Целта например е да създават софтуер. Единият модел ще се научи да формулира изискванията, друг да пише програмния код, трети ще подготви визуалната страна, четвърти ще тества кое и как се е получило… и така ще се събере цяла софтуерна фирма, работеща милиони пъти по-бързо от обичайните, защото е изградена не от хора, а от алгоритми.

Колко далечно е днес това бъдеще?

Неотдавна Сам Алтман каза, че именно в тази посока се задават много сериозни пробиви. ИИ агентите са една от областите в компютърните науки, където очакваме големи новини. Следващите поколения изкуствен интелект, способни да решават значително по-сложни и комплексни задачи, допускащи много по-малко грешки. Мнозина от най-големите специалисти казват, че чрез този подход ще извървим следващата голяма стъпка в развитието на изкуствения интелект. Ето защо.

 

ИИ агенти

 

Сговорна дружина

По нашите ширини „агентите“ си остават мистичните фигури, които редят в сянка политическия дневен ред. Нищо, че минаха 35 години откакто са „доносничили“, мине не мине месец и все ще се появи поредният списък с досиета.

Тези агенти са съвсем други, те са добри герои, като колегата си 007. Става дума за различна концепция за това как да използваме по най-пълноценния възможен начин изкуственият интелект.

Замисляли ли сте се, че у дома ви се разхожда… таен агент? Ако например имате прахосмукачка робот, то тя отговаря на критериите за ИИ агент, а и че е таен спор няма – та нали не ви се е представила като такъв?

Но спокойно, няма да я видите в следващия списък на комисията по досиетата.

Тя обаче отговаря напълно на дефиницията що е „ИИ агент“. Да, може да е далеч от сценария със сложните задачи, с който започнахме, просто защото се намира по-ниско в йерархията на този тип системи. ИИ агентите могат да бъдат доста различни типове, някои вече са около нас, но по-интересни са другите, тези, които ще могат да реализират сценария, с който започнахме. Да решават комплексни проблеми.

 

ИИ агенти

 

Нещатен сътрудник

Задължителната кратка дефиниция: ИИ агентът е програма с изкуствен интелект, на която е поставена конкретна задача. Може да е физически, както споменатата прахосмукачка, или изцяло софтуерен. И другото задължително условие – да може да действа автономно в рамките на определени ограничения. Точно както прахосмукачката решава как точно да обиколи хола ви, но не би отишла извън границите, които сте ѝ поставили.

Една от интригуващите посоки на развитие са персонализираните агенти. Наш личен супергерой, способен да ни помага в толкова много и разнообразни задачи. Разбира се, бъдещето изглежда доста замислящо и мотивиращо, когато имаме съвършения личен асистент. Наш си Джийвс или Уотсън… или пък лично наше копие, обучено така, че да ни наподобява максимално добре. Друг един Георги, на когото да делегирам само скучните задачи и тези, които смятам, че ще изпълни добре. Писането на тези материали поне за момента бих оставил за себе си. (Опитвал съм – забавно е.)

За момента, така или иначе, много по-напреднало е разработването на ИИ агенти, които да извършват конкретна, строго определена задача. Един представен неотдавна агент – SIMA на Google DeepMind, е специализиран в 3D видеоигрите. Обучен да дадено заглавие, той става способен да се справя с около 600 умения – от навигация в игрите до това да минава дори най-трудните задачи. Ама… ако и самата игра на игри делегираме на алгоритмите, тогава какво наистина ще остане за нас?

 

ИИ агенти

 

Щирлиц

При обявяването си хит беше системата Devin. Адашът на родната минерална вода обещаваше да изпълнява точно това, с което започнахме – да създава софтуер с помощта на агенти. Представянето му се превърна в огромна новина за софтуерния свят, ставаше дума за пионерна разработка в тази посока, която вече е готова да поеме цели 13,86% от работата… което, при подобна скъпа и високоспециализирана дейност са си доста спестени пари.

Просто му даваш задачата и той прави всичко останало – от концепцията за това как да изглежда програмата, през архитектурата, писането на самия код, писането на тестове към него, тестването. Демонстрацията беше повече от впечатляваща, защото наистина изглеждаше как първият „ИИ софтуерен инженер“, както го нарекоха създателите, може да вземе хляба на мнозина.

Само че, поне засега, така и не се е чуло системата да е навлязла масово в практиката. Вероятно все още се е оказало по-скъпо да трябва след това софтуерните специалисти да проверяват и поправят всичко, което не се е случило както трябва, вместо да го създадат сами.

И все пак, нека го кажа отново – става дума за пионерна разработка в област, в която напредъкът се случва изключително бързо, достатъчно е да посочим като пример скоростта, с която алгоритмите се научиха да създават изображения. Или обратното – има области, в които като че ли напредъкът изглежда зациклил.

Неотдавна известният изследовател Андрю Енджи написа, че според него ИИ агентите са следващото голямо направление, що се отнася до компютърния превод. Защото лесно могат да работят на няколко нива, агент след агент да преценява колко добре се е справил предходният състезател и да подобрява резултата му.

 

ИИ агенти

 

Ръка за ръка

Разбира се, идеята съвсем не е нова, на този принцип работят GAN мрежите, които първи се оказаха способни да създават неразличими човешки лица – ако едната невронна мрежа има за цел да генерира, другата работи, за да преценява колко добре се е справила първата.

И все пак, следващата стъпка стана възможна с развитието от последните години на големите езикови модели. Започнаха да се роят много начинания, с чиято помощ човек може да си направи малка армия от агенти с най-различни цели. Например да впрегне няколко инстанции на ChatGPT да си говорят в търсене на дадено решение, да обсъждат, докато стигнат до консенсус. Ето един подход, при който резултатът на даден въпрос би бил много по-добър и в по-голяма степен лишен от големия недъг на този тип модели – халюцинациите.

Пример за подобно приложение е AI Agent – апликация, с която просто избираш име, възлагаш задача на своя ИИ агент, посочваш модел на GPT да използва и следиш резултата. Нужни са минимални познания по програмиране, скоро това вероятно ще става и без тях. Друг популярен проект, който дава подобни възможности, е AutoGPT. Също и BabyAGI… ама чакайте, бебе генерален изкуствен интелект, толкова ли сме близо? И за това ще стане дума.

 

ИИ агенти

 

Мис таен агент

За разлика от чатбот като ChatGPT, на агентите не е необходимо постоянно да изпращате въпроси, инструкции, задания. При този подход те работят, докато изпълнят поставената си цел или стигнат дадено ограничение. Именно затова днешните ни герои се смятат за следващата стъпка в развитието на изкуствения интелект – заради самостоятелността.

ИИ агентите се превръщат в мощно оръжие тогава, когато имат възможността да се усъвършенстват, да се учат. Да, в прахосмукачката ни също има развит изкуствен интелект, който знае как оптимално да обиколи жилището ни, но всичко това се случва в рамките на дадени правила. Ако агентът, когото помолим да работи като журналист, е способен да се подобрява на базата на обратната връзка, ако това с времето го прави по-добър в изпълняването на задачи, тогава вече нещата стават не само интересни, но и ограничени почти само от въображението…

Добре дошли в първия виртуален град! Преди година учени от Станфордския университет използваха моделите на OpenAI, за да създадат цяло „селище“, обитавано от 25 виртуални агента. Всеки от тях имаше базови спомени и характер, бяха пуснати да си живеят софтуерно във виртуалния си град – нещо, подобно на видеоигра. 25-имата получиха имена, възраст, професия, семейство, интереси и вродени навици. И оттам нататък бяха пуснати да си взаимодействат, без да им се дават никакви допълнителни указания – управляваше ги само големият езиков модел.

 

ИИ агенти

 

Комисията по досиетата

Резултатът? Постепенно всеки от „хората“ разви характера си, някои даже се залюбиха и си честитяха Свети Валентин. В крайна сметка това, което се получи, беше нещо, подобно на истинско човешко общество – героите си общуваха, запомняха информация, осмисляха преживяванията си и правеха планове за ежедневни дейности.

Ето защо се смята, че агентите могат да са ни изключително полезни за следващото ниво на симулации. С тяхна помощ например да изследваме различни форми на взаимодействие многократно по-бързо, отколкото днес го прави науката.

Вече е ставало дума за спора между „структурирания“ и неструктурирания“ подход в разработването на изкуствения интелект (тук и тук). Според много от специалистите вече сме близо до предела на големите езикови модели в днешния им вид и те или няма как да ни отведат до прословутия генерален изкуствен интелект, или ще го направят, но то ще е с цената на много сериозни опасности.

Е, за някои от учените решението е именно в разработването на по-съвършени ИИ агенти. Те могат да са с различна архитектура, дори да следват съвсем различни начини на взаимодействие. Но да се допълват, контролират, да показват само силните си страни. И по този начин да ни отведат нататък, към генералния изкуствен интелект, който ще надмине човека, следващата стъпка към евентуалната сингулярност.

 

ИИ агенти

 

Досиетата Х

И ако всичко дотук звучи розово, то, разбира се, концепцията идва и със своите рискове. Защото колкото повече дейности делегираме на технологиите, толкова по-големи стават и отговорностите, и рисковете. Както казва анализаторът Рийс Хейдън, в допълнение към проблемите, които вече са присъщи на генеративния ИИ – например халюцинациите и пристрастията, агентите биха могли да са способни и на повече грешки.

„Когато им предоставяте автономия да повтарят, да променят отговорите си, да реагират на обратна връзка, това води до много по-сериозни и задълбочени халюцинации. Задачите стават по-комплексни и всяка малка грешка може да довече до следващи, много по-големи“.

Специалистът очаква след три до пет години вече да имаме широко използване на автоматизирани агенти с изкуствен интелект, които да извършват комплекни операции от край до край.

 

ИИ агенти

 

Агентурно минало

Друг риск, за който предупреждават учените от Google DeepMind, е свързан с етиката. Ако и днес ни е все по-лесно да възприемем ChatGPT за „нещо като човек“, то допълнителното антропоморфизиране, което идва с агентите, все по-персонализираната услуга „може да направи хората много по-уязвими към неподходящо влияние от страна на технологията“.

„Асистентите с ИИ биха могли радикално да променят естеството на работата, образованието и творческите занимания, както и начина, по който общуваме, взаимодействаме си и разговаряме помежду си, като в крайна сметка повлияят на това, което искаме да сме и да станем“, пишат авторите в статията.

И така, както стана ясно, усъвършенстваните ИИ агенти вече чукат на вратата ни (засега само метафорично). Може би пък няма да е толкова лош моментът, в който това действие ще излезе от метафората? Бихме могли да използваме този тип технологии за толкова интересни, неочаквани приложения. Да ни освободят от толкова досадни задачи, да ни помогнат да напреднем в науката. Стига обаче този път, както никога, да проведем навреме важния разговор. Онзи, за който все нямаме време и заради който съществува този сайт. За технологиите, начина, по който ги използваме. За начина, по който често неусетно и необратимо преобразяват живота ни…

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист и писател. Още за мен – тук. .
Дигитални истории

Най-нови публикации:

„Забравихме, че бебето знае как да се роди“

„Забравихме, че бебето знае как да се роди“

Как технологиите промениха бременността и раждането? С какво облекчиха и как – парадоксално, в други посоки създадоха проблеми за начина, по който идваме на бял свят? Жени Маркова се свърза с мен...

повече информация
Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното...

повече информация
„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато...

повече информация
Колко е IQ-то на ChatGPT?

Колко е IQ-то на ChatGPT?

Какви ли не хобита имат хората – някои колекционират марки, други – евро, трети дори имат търпението да гледат български футбол. Е, аз освен че имам навика да проверявам нищожните си познания в...

повече информация
„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Ние, възрастните, пожертвахме две поколения, защото създадохме нещо, което не знаехме какво е и как работи. Тези деца са жертва на нашата некомпетентност. Вече никой не може да каже, че не знаем до...

повече информация

Още публикации по темата:

От рубриката:

Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното родителство?
Тези и още много важни въпроси отправих в началото на февруари към родителите и близките на деца до 11 години. Анкетата на Дигитални истории събра повече от 350 мнения. Изводите са показателни, замислящи. Посланията, събрани там, си струва да бъдат четени и обсъждани.
Благодаря от сърце на всеки, който я попълни, на всеки, който помогна повече хора да се включат! Ето какви се оказаха резултатите.

повече информация
Таралежите се раждат без ИИ

Таралежите се раждат без ИИ

В какъв свят ще живеят днешните деца?
Какво има смисъл да учат днес и кое би било загуба на време, усилия и пари?
Кога и как да ги срещнем с технологиите така, че да им помогнем да се опознаят, без някой да пострада?
А кога да ги „запознаем“ с изкуствения интелект?
Ще потърся отговорите на тези и други важни въпроси, свързани с децата и технологиите. Започва дълга поредица от детски Дигитални истории.
Ето защо според мен е жизненоважно да навлезем по-дълбоко в тези огромни теми:

повече информация
Как срещаме децата с технологиите? (Анкета)

Как срещаме децата с технологиите? (Анкета)

В какъв свят ще живеят децата ни? А как да ги срещнем с технологиите по най-добрия начин?
Имам две хлапета и този сайт го има, защото тези въпроси не ми дават мира. Докато има още толкова важни въпроси, на които е време да намерим отговор.
Нека ги обсъдим, а после да потърсим отговорите. Нека заедно нарисуваме картината на днешното дигитално родителство и погледа му към бъдещето.
Анкетата е насочена към родителите на деца от 0 до 11 години (а и към баби, дядовци, хора, които имат отношение към децата). Темите на тийнейжърите също са изключително важни, и за тях ще дойде моментът.
Анкетата е анонимна, можете да отговорите на въпросите, които си изберете. Можете да се включите и в жребий за награди – подбрани книги и фланелки с логото на Дигитални истории. Отговорите се събират до 28 февруари, а в началото на март очаквайте резултатите.
С тази анкета започва поредицата от важни Дигитални истории за децата и технологиите. Ще поговорим за майчинството и бащинството днес, за промените в образованието, за професиите на бъдещето. Поканил съм забележителни гости, от които всеки родител (включително и аз) има много какво да научи.
Благодаря от сърце за всяко попълване, за всяко споделяне!

повече информация

Най-новите:

„Забравихме, че бебето знае как да се роди“

„Забравихме, че бебето знае как да се роди“

Как технологиите промениха бременността и раждането? С какво облекчиха и как – парадоксално, в други посоки създадоха проблеми за начина, по който идваме на бял свят?
Евгения Маркова се свърза с мен заради поредицата „Дигитални деца“ с предложението да поговорим за този аспект от връзката на технологиите с родителството. Тя живее в Германия и макар че дълги години е работила в сферата на маркетинга и разработката на софтуер, днес основното ѝ занимание е на дула. Особено популярно на запад, това е попрището на жени, които не са медицински специалисти, но помагат с информация, съвети, практическа и емоционална подкрепа на бъдещите майки.
Кога предоверяването на технологиите може да се превърне в проблем при бременността и раждането? Защо си струва в някои посоки да се върнем към традициите и повече да слушаме тялото си, а не само медицинските показатели или чужди съвети? Време е за един важен разговор, който според мен би могъл да даде много полезни идеи за хората, които тепърва се готвят да станат родители.

повече информация
Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното родителство?
Тези и още много важни въпроси отправих в началото на февруари към родителите и близките на деца до 11 години. Анкетата на Дигитални истории събра повече от 350 мнения. Изводите са показателни, замислящи. Посланията, събрани там, си струва да бъдат четени и обсъждани.
Благодаря от сърце на всеки, който я попълни, на всеки, който помогна повече хора да се включат! Ето какви се оказаха резултатите.

повече информация
„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Елица Стоилова казва, че дигиталната грамотност би трябвало да се превърне в национална цел, ако искаме да вървим напред. „Липсата ѝ води до страх от технологиите = консерватизъм в тяхното въвеждане и използване = изоставане на нацията ни в множество посоки. Какво е бъдещето на неграмотните народи?“, написа ми тя.
Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато накрая акостира в ИТ света. Разбира, че голяма част от задачите в туризма успешно могат да се изпълняват от алгоритми, тъй като са повторяеми. Така създава чатбот платформата UMNI, много преди друг един чатбот да привлече погледите на света към това колко е напреднал изкуственият интелект.
Но как така… тя е толкова оптимистично настроена за пътя напред? Гостенката ни смята, че ако правилно изиграем картите си, ИИ ни води към едно прекрасно бъдеще. От какво зависи дали ще изиграем картите си както трябва? И защо понякога си струва дори да изоставиш едно от най-райските кътчета на планетата, преследвайки мечтите? Търсим важни и неочаквани отговори в следващите редове.

повече информация
Колко е IQ-то на ChatGPT?

Колко е IQ-то на ChatGPT?

Какъв е коефициентът на интелигентност на напредналия изкуствения интелект?
Достига ли, надминава ли средните 100 точки на днешното човечество? И защо това е важно?
Хайде да научим заедно!

повече информация
„Последният печели“. ChatGPT отвръща на удара!

„Последният печели“. ChatGPT отвръща на удара!

Из въздуха витае интелигентност, в залата са малко над 100 души, повечето от тях са сред най-интелигентните в нашата страна. Не е предположение, мога да го докажа. Те са сред победителите в „Последният печели“ – телевизионното състезание, което през последните години припомня защо знанието е важно за всички ни, дори като вид, във времената на напредналия изкуствен интелект.
С моите съмишленици в залата имаме важна задача. Да се изправим заедно срещу ИИ в едно състезание, което може да ни каже и покаже много.
Ще победи ли с днешните си невероятни умения изкуственият интелект едни от най-знаещите представители на естествения? Време е да проверим. И да научим нещо ново…
ChatGPT срещу някои от най-интелигентните българи в състезание по познание. Кой ще победи? Изгубихме ли окончателно и тази битка срещу машините? Ръкавицата е хвърлена!

повече информация
„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Ние, възрастните, пожертвахме две поколения, защото създадохме нещо, което не знаехме какво е и как работи. Тези деца са жертва на нашата некомпетентност. Вече никой не може да каже, че не знаем до какво води прекомерната употреба на дигитални устройства за развитието на емоционално-интелектуалния апарат на децата.“
Но какви точно са тези щети и защо са толкова важни? Как прекомерното излагане на технологии променя необратимо децата? И какво да правим, след като го знаем?
Слави Стоев е психолог, води обучения за лидерство и мениджърски умения, водещ е на подкаста „Естествен ѝнтелект“. В същото време е и баща, и автор на детски книжки, посветени на ранното развитие и емоционалната интелигентност.
Точният гост, с когото да потърсим има ли среден път в отношението на родителите към технологиите и как можем да го намерим. Ще поговорим за базовите умения, които днес не успяваме да развием, и упадъка, към който се е насочила цивилизацията ни. Ако бързо не вземем целенасочени мерки, свързани именно с пресечната точка между технологиите и децата.

повече информация
Share This