Направи се сам. ИИ създава ИИ

юли 14, 2023 | Технологии

Направи се сам. ИИ създава ИИ

14 юли 2023 | Технологии

Какво ще стане, когато изкуственият интелект се включи в следващата важна задача: създаването на… изкуствен интелект? Ако помолим прословутия ChatGPT да ни „създаде“ нова невронна мрежа, която да решава конкретен проблем? Възможно ли е сложните алгоритми да създават следващите свои наследници? Какво ще се промени от това? Дали така няма да стигнем до следващата стъпка: абсолютният ИИ, способен да решава всякакви задачи?

Тези въпроси имат много възможни отговори, но докато ги задаваме, може да пропуснем нещо важно: вече съществуват системи, в които ИИ контролира и подпомага процеса по създаване на свои „събратя“. При това, за да създава по-сигурни и безопасни за хората решения.

 

Добрият, лошият и злият робот

Откакто дойде Терминаторът, а дори и няколко хилядолетия по-рано: заради Бога от машината, човечеството има едно и също крайно притеснение от връзката си с машините. Че те ще поемат контрола. Ще съумеят да вземат съзнателни решения и няма да е по силите ни да ги спрем. Архетипът не само оцеля, но и разцъфтя в годините, когато се наложи прословутият термин „изкуствен интелект“.

Вече сме си задавали въпроса скоро ли се задава денят, когато алгоритмите сами ще се научат да създават софтуер. По един или друг начин това вече се случва, те спестяват доста от досадните задачи на програмистите. Макар и да са далеч от реалното софтуерно инженерство в неговата пълнота от многопластови задачи.

После идва поредната важна и интересна граница. Какво ще стане, ако алгоритмите сами са способни да си поставят следващата задача? Да програмират и разработват изкуствен интелект.

 

ИИ създава ИИ

 

И баба знае

Самовъзпроизвеждането е явление, което винаги свързваме с биологичните огранизми. Тоест: ако изкуственият интелект го постигне под една или друга форма, това със сигурност ще е още един знак, че нашето изкуствено творение продължава да трупа точки. Да извървява стъпки напред в еволюцията си.

Сингулярността е онзи момент, когато компютрите ще се окажат по-„умни“ от нас. Естествено, ако изобщо се стигне до този етап, темата е повод за сериозни спорове и вече сме я обсъждали подробно.

И двете – самовъзпроизвеждащият се изкуствен интелект и сингулярността, са понятия от възможното бъдеще. В тази област понякога ентусиазмът определено идва в повече, така че нека от страховете и мечтите се върнем към днешния ден. За да разкажем за няколко интересни проекта, които показват, че алгоритмите не само могат да помогнат в създаването на свои събратя, но и вече го правят. При това не вместо хората, а подпомагайки ни там, където са по-силни от нас: в своята безпристрастност.

 

ИИ създава ИИ

 

Кой ще ни пази от пазачите

Налага се отново да започнем с краткото определение за това какво е прословутият ИИ. Да, говорейки за интелект, винаги първата и естествена асоциация е с човешкия ум. Тази система обаче, която един ден може би ще го наподоби, си има конкретно име: „генерален“ или „абсолютен изкуствен интелект“. Без първото важно определение имаме просто софтуер, наподобяващ по някакъв начин човешкото мислене, готов да решава конкретна задача. Най-често през последните години това се случва чрез машинното самообучение и прословутите невронни мрежи.

Само че и този термин е доста заблуждаващ. Машината седи и се самообучава на поезия, четейки Гьоте… Уви, нищо подобно. Става дума за алгоритъм, който е способен да обработва огромни обеми информация и да търси закономерностите. Чрез прецизно подбрани параметри да открие кои са важните показатели. И на базата на всичко това да реши една конкретна задача, която винаги се свежда до две възможности: да предположи каква ще е следващата единица информация, или да класифицира следващата единица по различни критерии.

На пръв поглед просто решение, което обаче в някои области наистина е постигнало съвършенството, заради което си заслужава определението „интелект“. Например що се отнася до лицевото разпознаване, управлението на автономни автомобили, дори и създаването на произведения на изкуството.

Под някаква форма невронните мрежи правят точно същото. Разликата е, че там става дума за поредица от алгоритми, разпределени в слоеве, които могат да открият много по-фини закономерности. Но отново не може да се каже, че един от алгоритмите създава следващия.

 

ИИ създава ИИ

 

Ще строим завод

Как тогава от тези принципи да минем към следващата стъпка? Към това изкуственият интелект да помогне в създаването на свои наследници?

Един от най-сериозните проблеми в разработката на този тип алгоритми е намаляването на пристрастията, които ще срещнете и с английския термин “bias”. Малко или повече, доколко алгоритъмът може да си свърши работата, зависи от това как са му подадени началните параметри и как са подбрани отделните елементи или слоевете в невронната мрежа. Тук изникват и големите етични въпроси.

Именно това днес е основната и най-трудна работа на специалистите в тази област. Създателите на изкуствен интелект много често действат по метода на пробата и грешката в първоначалните етапи, преди да се стигне до същинското машинно самообучение. А какво ли ще се случи, ако в тази основополагаща задача ги заместят други алгоритми?

 

Улов в мрежата

При ИИ всичко се превръща в числа. Независимо дали ще става дума за видео или за симулации при разработването на лекарства. Понякога тренирането на моделите изисква милиони и дори милиарди параметри да се обработват прецизно и многократно, преди софтуерът да открие точните закономерности.

Понякога, ако обемът данни, който ще се обработва, е сериозен, това може да отнеме дори месеци, въпреки огромната изчислителна мощ на съвременните компютри. Ето защо една от първите посоки, в които се очакват ИИ проекти от следващо ниво, е създаването на такива, които сами да могат да спестят много стъпки. Да оптимизират съществуващите алгоритми и да ги опростяват. Направлението се нарича „хипермрежи“ и определено е една от популярните посоки напоследък. Хипермрежите анализират данните и съответните необучени невронни мрежи и значително могат да улеснят процеса по самообучение.

Сред пионерите в тази посока е екип, начело с Борис Князев от канадския университет в Гуелф, Онтарио. През 2018-а със свои колеги той разработва хипермрежа, базирана на графи, чиято цел е именно да открие най-добрата архитектура на невронна мрежа за конкретна задача. Следващото поколение – GHN-2, се появи преди година, и е способно да приеме и анализира параметрите на 500 различни мрежи и да ги съпостави с евентуалните следващи задачи, на които се търси решение. С други думи, ако системата работи толкова добре, колкото обещава, така се спестяват 500 обучения на мрежи, направени поотделно от разработчиците, времето за работа се съкращава драстично.

 

ИИ създава ИИ

 

Аз си издигнах паметник неръкотворен

Всичко това има много измерения, не само като време и усилия, но и от гледна точка на спестяването на огромните енергийни ресурси, които често са нужни за работата на суперкомпютрите.

Истината е, че знаем прекалено малко за това, което прави всъщност дълбоките невронни мрежи толкова ефективни. Както вече е ставало дума, ние им подаваме данните, радваме се на все по-успешните резултати, докато все още те са черна кутия, не знаем какво точно се случва по средата. Но тук нещата стават по-сложни, ако имаме и хипермрежи. Ако случайно те не се справят добре със задачата си, ние няма как да знаем, че се е случило и най-вече защо. Ще имаме пристратие, дори издигнато на следващо ниво…

 

Робот плет плете

Нека за секунда се върнем на добрия стар Терминатор. В крайна сметка там имахме срещата на два абсолютни изкуствени интелекта – единият искаше да унищожи хората, а другият – да ги опази. Е, вече имаме нещо подобно като решение и в областта на днешния ИИ. Стартъп с българско участие разработва невронна мрежа, която да следи и да ни предпазва от това други такива да излязат от контрол…

Стартъпът се казва Tenyks и в началото на 2022-а набра 3,4 милиона долара финансиране с нестандартното си предложение. Сред инвеститорите личат сериозни имена, например на Джон Тайсъм, първия човек, подкрепил финансово Yahoo през 1995 г.

Създател на компанията и автор на идеята е докторантът от „Кембридж“ Боти Диманов. Платформата, разработена от него и двамата му партньори, е насочена към разработчиците в областта на машинното самообучение. С помощта на тяхното приложение те могат да разработват проектите си по-бързо и безопасно.

Платформата им позволява системите, ползващи ИИ, да бъдат изпитвани значително по-лесно и сигурно. Да се справят по-бързо с първоначалния анализ на данните, които получават, за да създават по-целенасочени решения в избраната област. Целта е също да се разработват модели, които са по-независими от човешките грешки, от подвеждането по първоначалната информация в зависимост например от личните ни предпочитания.

 

ИИ създава ИИ

 

Пристрастяване

Tenyks приема моделите, разработени от програмистите, и ги оценява по различни параметри. Търси слабите им места и къде се забелязва това прословуто пристрастие, недолюбваният от специалистите „байъс“. Тоест… отново имаме ИИ, който помага пряко в създаването на своите събратя.

„Всеки път, когато технологиите стигнат границите на невъзможното, се появяват следващата категория софтуерни решения. Компютрите развиха графичните си интерфейси, а интернет – търсачките. Ето защо вярвам, че ИИ ще има подобни платформи, които ще позволят да изведем на следващо ниво разработването му“, казва Боти Диманов пред сайта The Recursive.

Една от причините темата да е все по-актуална е и начинът, по който се обработват самите данни. „Разработката на ИИ днес преминава от работа, концентрирана върху модела, по който се обработва информацията, върху такава, насочена към самата информация“, казва Рик Хао – един от колегите на Диманов. Именно тук идва приложението, разработвано от екипа – то помага на инженерите с първоначална обработка и с анализа на стъпките, които да направят, така че да подобрят работата на алгоритмите.

 

ИИ създава ИИ

 

Роботизиран дзен

Роботите не разбирали от поезия? Дълго можем да спорим (и сме го правили тук). „Първопроходец с два отворени края“ по-скоро звучи като вогонска поезия, но на английски Paired Open-Ended Trailblazer се съкращава като POET. Това е проектът на ИИ специалиста от „Юбер“ Руи Ланг, който отново е свързан с темата ни.

Накратко: идеята е отново да се създаде хипермрежа, която обаче изпитва и надгражда алгоритмите по различен начин.

Тъй като авторът е от Изтока, той описва работата на системата си като кунг фу надпревара. На алгоритмите се поставят задачи, те се изправят едни срещу други и не само става ясно кой е по-добър, но и всеки от „участниците“ напредва и се развива в това, което прави. „Накрая от тренировъчното дохио излиза един завършен, истински кунг фу майстор“, казва Ланг.

Системата започва с проста задача, като на всеки следващ етап преминава с нови знания, сблъсквайки се с различни препятствия. Когато успее или се провали на даден етап, „състезателят“ преминава в съвършено нова околна среда. Особено успешен фактор се оказва решението средата да се променя на случаен принцип.

„POET се базира на един парадокс“, казва Уанг. „В живота се случва така, че ако се опиташ да решиш даден проблем, ще се провалиш, а ако не опиташ, е много по-вероятно да успееш. Понякога точно така се случва еволюцията в природата, затова е възможно нещо подобно да се постигне и с изкуствения интелект“.

 

ИИ създава ИИ

 

Дарвин прави Дарвин

Според екипа именно подобни проекти стоят по пътя ни към това да създадем дългоочаквания абсолютен ИИ. Който ще е способен да решава различни задачи, а не само една конкретна, както, стана дума, се случва в момента. Тоест, колкото и да изглежда далечно бъдещето на такъв тип разработки, корените им вече са тук.

„Време е да започнем да създаваме алгоритми, които по начало съдържат определена форма на интелигентност и да ги наблюдаваме как сами създават следващите, докато, евентуално, стигнем до абсолютния ИИ“, казва Джеф Клуун от OpenAI.

„Истината е, че засега той е просто фантазия. Но това е така най-вече, защото никой не знае как точно може да го създаде. Напредъкът в тази област зависи от хората, случва се стъпка по стъпка. Използват се вече открити и познати решения, които се комбинират по различен начин, като постепенно се подобрява успеваемостта им“. Клуун казва, че по този начин създаваме все по-добри отделни блокчета, от които трудно ще построим сами сградата на абсолютния ИИ. „И може би на алгоритмите се пада тежката задача да съберат всичко заедно“.

 

ИИ създава ИИ

 

Малки деца – малки проблеми…

А какво става после? Както казва Джейн Уанг от проекта DeepMind, едно от основните предимства да включим ИИ в създаването на ИИ е, че той ще дойде с идеи за дизайн и техники, които за хората биха били неочаквани. „Но не всички изненади са хубави. Ако впрегнеш ИИ в целта да създаде нещо, което ти не познаваш, е много по-трудно да го контролираш и да предположиш къде ще изникнат проблемите“.

Начинанията, за които ви разказахме, са решителните първи стъпки към създаването на абсолютния изкуствен интелект. Готови ли сме обаче за следващите? Не толкова технически, а цивилизационно? Заедно ще продължаваме да търсим отговора в следващите Дигитални истории…

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.
Дигитални истории

Най-нови публикации:

Във Вихъра на квантовите нанотехнологии

Във Вихъра на квантовите нанотехнологии

Живеем в силициевата ера, казва днешният ни гост. А следващите стъпки в развитието на начините, по които създаваме чипове, са свързани не само с напредъка ни в технологиите, но и с развитието ни...

повече информация
„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Минималистичен стил, повторения, измамна простота, звук от свят, който се променя, индустриализира, тихите тонове могат да бъдат интерпретирани както като последните стонове на отдаващото се на...

повече информация
Какво мислят българите за изкуствения интелект? (Резултати)

Какво мислят българите за изкуствения интелект? (Резултати)

След дълго събиране на отговори в мащабната анкета на Дигитални истории дойде време да обобщим резултатите! Какво мислят българите за изкуствения интелект? Впечатлява ли ги напредъкът в тази област...

повече информация
Не! Човешки ресурси…

Не! Човешки ресурси…

Отиваме на мач! Кой играе днес? Човекът срещу изкуствения интелект, мачът „не е свирен“. Поканили сме съдия с дългогодишен опит, няма да даваме шанс на досадния ВАР. Може ли алгоритъмът да си намери...

повече информация
Бай Ганьо срещу ChatGPT. Ще гласувате ли?

Бай Ганьо срещу ChatGPT. Ще гласувате ли?

След броени дни се задават 7-ите поредни избори за Народно събрание само в рамките на 3 години. Вероятно е активността да е още по-ниска от рекордите, които не спираме да подобряваме, по всичко...

повече информация

Още публикации по темата:

От рубриката:

Какво мислят българите за изкуствения интелект? (Резултати)

Какво мислят българите за изкуствения интелект? (Резултати)

След дълго събиране на отговори в мащабната анкета на Дигитални истории дойде време да обобщим резултатите! Какво мислят българите за изкуствения интелект? Впечатлява ли ги напредъкът му и използват ли го ежедневно? Със страх или с ентусиазъм посрещат следващите големи стъпки в тази посока? Вярват ли, че е възможен генерален изкуствен интелект? Смятат ли, че през следващите години ни очакват мащабни промени? Дойде време да разберем на базата на безпристрастния поглед на данните!

повече информация
Бай Ганьо срещу ChatGPT. Ще гласувате ли?

Бай Ганьо срещу ChatGPT. Ще гласувате ли?

След броени дни се задават 7-ите поредни избори за Народно събрание само в рамките на 3 години. Вероятно е активността да е още по-ниска от рекордите, които не спираме да подобряваме, по всичко изглежда, че в Парламента ще влязат още повече партии.
Как да излезем от омагьосания кръг? Защо политиката у нас се превърна в толкова неблагодарно и непрестижно занимание? Къде са лидерите, които да ни вдъхновяват и за които да гласуваме с гордост, а не като за най-малкото зло? Къде са програмите, идеите, визионерството? Ясните политически позиции, принципите… Толкова ли е трудно в крайна сметка?
Разбира се, отговорите е редно да дават специалистите – политолози, социолози, общовойскови коментатори с важни гледни точки. И те ги дават всяка сутрин по телевизиите и целодневно онлайн, но всичко резултира в чесане на езици и допълнително разделяне, подпомогнато от технологиите.
Така че избирам да дам думата на два безспорни авторитета – Бай Ганьо, който така и не иска да си отиде – ще се убедите по цитатите, с които Алеко ни разказва толкова много за политиката по нашите ширини и отношението към нея. И, разбира се, на ChatGPT, чиято най-нова версия обещава да е още по-добра и близка до човешките отговори.

повече информация
Какво мислите за изкуствения интелект? Мнението ви е важно!

Какво мислите за изкуствения интелект? Мнението ви е важно!

Мнението ви е важно! През последните години се разделяме в крайности и шаблони в отношението си към технологиите. А изкуственият интелект се превръща във водеща тема, за която всеки има какво да каже.
Как смятате – дали изкуственият интелект е неоправдан медиен шум, или големият фактор, който ще промени бъдещето ни като вид? Ще отвори невероятни възможности пред хората или ще превърне света в дигитален концлагер?
Сега е моментът да кажете какво мислите по темата!
Смятам, че е важно да разберем какво е отношението към ИИ на колкото може повече хора. Ще съм ви благодарен, ако попълните 20 бързи въпроса, нужни са ви само 5 минути.
Благодаря от сърце за всяко попълване, за всяко споделяне!

повече информация

Най-новите:

Един каскадьор срещу хакерите

Един каскадьор срещу хакерите

Кое е по-трудно – да нокаутираш Антонио Бандерас, или да се справиш с кибератаките, насочени към голяма компания? Надали има повече от един човек на света, който да отговори от личен опит на този въпрос. Само днешният ни гост.
Веселин Троянов е участвал като каскадьор в безброй холивудски суперпродукции, снимал се е редом с Джейсън Момоа, Скарлет Йохансон, Гари Олдман, Раян Рейнолдс, Антонио Бандерас.
А днес е начело на българския екип на Check Point – глобална компания за киберсигурност с огромен опит. Докато разработва и своя платформа за инфлуенсъри.
Да, за сигурността ще си говорим и за инцидентите. За риска и предпазливостта. За каскадьорите и зрелищните катастрофи, които може да си осигури всеки, оказал се не достатъчно внимателен онлайн… А може ли изобщо да има безопасност в мрежата?

повече информация
Във Вихъра на квантовите нанотехнологии

Във Вихъра на квантовите нанотехнологии

Живеем в силициевата ера, казва днешният ни гост. А следващите стъпки в развитието на начините, по които създаваме чипове, са свързани не само с напредъка ни в технологиите, но и с развитието ни като цивилизация.
Проф. Вихър Георгиев завършва докторантура в Оксфорд, а през последните години в Университета на Глазгоу преподава и води научни изследвания именно в тази област, от която зависи дали ще успеем да минем на следващото ниво. Дали ще намерим следващата парадигма, която ще ни позволи да запазим прословутото експоненциално развитие на изчислителната мощ на компютрите?
Професорът не само помага за създаването на следващото поколение чипове, но и за технологиите, които ще ни помогнат лабораторните изследвания да стигнат дотам, че с малък сензор да можем да научим толкова за жизнените си показатели и болестите в тялото ни, колкото днес не биха могли да ни кажат и най-модерните лаборатории.

повече информация
„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Мислиш си, че знаеш. Докато нещо друго решава какво да ти показва“

„Минималистичен стил, повторения, измамна простота, звук от свят, който се променя, индустриализира, тихите тонове могат да бъдат интерпретирани както като последните стонове на отдаващото се на машините човечество, така и като първите плахи песни на новородените машини.“
Владимир Полеганов публикува романа си „Другият сън“ преди почти десетилетие. А в него някои щрихи отекват пророчески. За това как делегираме още и още на машините – и спомените, и знанията, и самите себе си.
Днешният ни гост е писател, преводач, сценарист, преподавател. И събеседник, с когото си струва да поговорим за книгите и бъдещето. За думите и машините. За това дали няма да закъснее литературата да ни припомни какво е да сме хора и какво никога не бива да делегираме на машините…

повече информация
Какво мислят българите за изкуствения интелект? (Резултати)

Какво мислят българите за изкуствения интелект? (Резултати)

След дълго събиране на отговори в мащабната анкета на Дигитални истории дойде време да обобщим резултатите! Какво мислят българите за изкуствения интелект? Впечатлява ли ги напредъкът му и използват ли го ежедневно? Със страх или с ентусиазъм посрещат следващите големи стъпки в тази посока? Вярват ли, че е възможен генерален изкуствен интелект? Смятат ли, че през следващите години ни очакват мащабни промени? Дойде време да разберем на базата на безпристрастния поглед на данните!

повече информация
Не! Човешки ресурси…

Не! Човешки ресурси…

Отиваме на мач! Кой играе днес? Човекът срещу изкуствения интелект, мачът „не е свирен“. Поканили сме съдия с дългогодишен опит, няма да даваме шанс на досадния ВАР.
Може ли алгоритъмът да си намери работа? Направих си този експеримент, създаденият от ChatGPT Максим Иванов стигна до две интервюта за работа, получи и допълнителни шансове. Мачът свърши, време е за анализа.
Петър Джугански има опит като помощник съдия от над 250 мача в професионалния футбол, сред които финал за Купата на България, срещи на Байерн, Виляреал, националния отбор на Испания… А днес е „ейчар“ – HR, специалист по управлението на човешките ресурси, но и… обратното. Води подкаста НеЧовешки ресурси, който разглежда пъстри теми, свързани с работата.
Начело е на екипа, отговарящ за подбора на кадри в голяма софтуерна компания, опитах да го подведа, като изпратих генерираното CV и на тяхна обява.
Какво ли се получи, дали го подведох? И по-важното: как изглеждат днес перспективите във все по-оспорвания мач между ИИ и човека? Наистина ли софтуерната сфера вече не посреща нови хора? Започнаха ли да изчезват професии заради изкуствения интелект? Ще се превърне ли България в притегателно работно място за хората от далечни страни и трябва ли това да ни плаши? Ще разберете след последния съдийски сигнал…

повече информация
Бай Ганьо срещу ChatGPT. Ще гласувате ли?

Бай Ганьо срещу ChatGPT. Ще гласувате ли?

След броени дни се задават 7-ите поредни избори за Народно събрание само в рамките на 3 години. Вероятно е активността да е още по-ниска от рекордите, които не спираме да подобряваме, по всичко изглежда, че в Парламента ще влязат още повече партии.
Как да излезем от омагьосания кръг? Защо политиката у нас се превърна в толкова неблагодарно и непрестижно занимание? Къде са лидерите, които да ни вдъхновяват и за които да гласуваме с гордост, а не като за най-малкото зло? Къде са програмите, идеите, визионерството? Ясните политически позиции, принципите… Толкова ли е трудно в крайна сметка?
Разбира се, отговорите е редно да дават специалистите – политолози, социолози, общовойскови коментатори с важни гледни точки. И те ги дават всяка сутрин по телевизиите и целодневно онлайн, но всичко резултира в чесане на езици и допълнително разделяне, подпомогнато от технологиите.
Така че избирам да дам думата на два безспорни авторитета – Бай Ганьо, който така и не иска да си отиде – ще се убедите по цитатите, с които Алеко ни разказва толкова много за политиката по нашите ширини и отношението към нея. И, разбира се, на ChatGPT, чиято най-нова версия обещава да е още по-добра и близка до човешките отговори.

повече информация
Share This