Какво ще стане, когато изкуственият интелект се включи в следващата важна задача: създаването на… изкуствен интелект? Ако помолим прословутия ChatGPT да ни „създаде“ нова невронна мрежа, която да решава конкретен проблем? Възможно ли е сложните алгоритми да създават следващите свои наследници? Какво ще се промени от това? Дали така няма да стигнем до следващата стъпка: абсолютният ИИ, способен да решава всякакви задачи?

Тези въпроси имат много възможни отговори, но докато ги задаваме, може да пропуснем нещо важно: вече съществуват системи, в които ИИ контролира и подпомага процеса по създаване на свои „събратя“. При това, за да създава по-сигурни и безопасни за хората решения.

 

Добрият, лошият и злият робот

Откакто дойде Терминаторът, а дори и няколко хилядолетия по-рано: заради Бога от машината, човечеството има едно и също крайно притеснение от връзката си с машините. Че те ще поемат контрола. Ще съумеят да вземат съзнателни решения и няма да е по силите ни да ги спрем. Архетипът не само оцеля, но и разцъфтя в годините, когато се наложи прословутият термин „изкуствен интелект“.

Вече сме си задавали въпроса скоро ли се задава денят, когато алгоритмите сами ще се научат да създават софтуер. По един или друг начин това вече се случва, те спестяват доста от досадните задачи на програмистите. Макар и да са далеч от реалното софтуерно инженерство в неговата пълнота от многопластови задачи.

После идва поредната важна и интересна граница. Какво ще стане, ако алгоритмите сами са способни да си поставят следващата задача? Да програмират и разработват изкуствен интелект.

 

 

И баба знае

Самовъзпроизвеждането е явление, което винаги свързваме с биологичните огранизми. Тоест: ако изкуственият интелект го постигне под една или друга форма, това със сигурност ще е още един знак, че нашето изкуствено творение продължава да трупа точки. Да извървява стъпки напред в еволюцията си.

Сингулярността е онзи момент, когато компютрите ще се окажат по-„умни“ от нас. Естествено, ако изобщо се стигне до този етап, темата е повод за сериозни спорове и вече сме я обсъждали подробно.

И двете – самовъзпроизвеждащият се изкуствен интелект и сингулярността, са понятия от възможното бъдеще. В тази област понякога ентусиазмът определено идва в повече, така че нека от страховете и мечтите се върнем към днешния ден. За да разкажем за няколко интересни проекта, които показват, че алгоритмите не само могат да помогнат в създаването на свои събратя, но и вече го правят. При това не вместо хората, а подпомагайки ни там, където са по-силни от нас: в своята безпристрастност.

 

 

Кой ще ни пази от пазачите

Налага се отново да започнем с краткото определение за това какво е прословутият ИИ. Да, говорейки за интелект, винаги първата и естествена асоциация е с човешкия ум. Тази система обаче, която един ден може би ще го наподоби, си има конкретно име: „генерален“ или „абсолютен изкуствен интелект“. Без първото важно определение имаме просто софтуер, наподобяващ по някакъв начин човешкото мислене, готов да решава конкретна задача. Най-често през последните години това се случва чрез машинното самообучение и прословутите невронни мрежи.

Само че и този термин е доста заблуждаващ. Машината седи и се самообучава на поезия, четейки Гьоте… Уви, нищо подобно. Става дума за алгоритъм, който е способен да обработва огромни обеми информация и да търси закономерностите. Чрез прецизно подбрани параметри да открие кои са важните показатели. И на базата на всичко това да реши една конкретна задача, която винаги се свежда до две възможности: да предположи каква ще е следващата единица информация, или да класифицира следващата единица по различни критерии.

На пръв поглед просто решение, което обаче в някои области наистина е постигнало съвършенството, заради което си заслужава определението „интелект“. Например що се отнася до лицевото разпознаване, управлението на автономни автомобили, дори и създаването на произведения на изкуството.

Под някаква форма невронните мрежи правят точно същото. Разликата е, че там става дума за поредица от алгоритми, разпределени в слоеве, които могат да открият много по-фини закономерности. Но отново не може да се каже, че един от алгоритмите създава следващия.

 

 

Ще строим завод

Как тогава от тези принципи да минем към следващата стъпка? Към това изкуственият интелект да помогне в създаването на свои наследници?

Един от най-сериозните проблеми в разработката на този тип алгоритми е намаляването на пристрастията, които ще срещнете и с английския термин “bias”. Малко или повече, доколко алгоритъмът може да си свърши работата, зависи от това как са му подадени началните параметри и как са подбрани отделните елементи или слоевете в невронната мрежа. Тук изникват и големите етични въпроси.

Именно това днес е основната и най-трудна работа на специалистите в тази област. Създателите на изкуствен интелект много често действат по метода на пробата и грешката в първоначалните етапи, преди да се стигне до същинското машинно самообучение. А какво ли ще се случи, ако в тази основополагаща задача ги заместят други алгоритми?

 

Улов в мрежата

При ИИ всичко се превръща в числа. Независимо дали ще става дума за видео или за симулации при разработването на лекарства. Понякога тренирането на моделите изисква милиони и дори милиарди параметри да се обработват прецизно и многократно, преди софтуерът да открие точните закономерности.

Понякога, ако обемът данни, който ще се обработва, е сериозен, това може да отнеме дори месеци, въпреки огромната изчислителна мощ на съвременните компютри. Ето защо една от първите посоки, в които се очакват ИИ проекти от следващо ниво, е създаването на такива, които сами да могат да спестят много стъпки. Да оптимизират съществуващите алгоритми и да ги опростяват. Направлението се нарича „хипермрежи“ и определено е една от популярните посоки напоследък. Хипермрежите анализират данните и съответните необучени невронни мрежи и значително могат да улеснят процеса по самообучение.

Сред пионерите в тази посока е екип, начело с Борис Князев от канадския университет в Гуелф, Онтарио. През 2018-а със свои колеги той разработва хипермрежа, базирана на графи, чиято цел е именно да открие най-добрата архитектура на невронна мрежа за конкретна задача. Следващото поколение – GHN-2, се появи преди година, и е способно да приеме и анализира параметрите на 500 различни мрежи и да ги съпостави с евентуалните следващи задачи, на които се търси решение. С други думи, ако системата работи толкова добре, колкото обещава, така се спестяват 500 обучения на мрежи, направени поотделно от разработчиците, времето за работа се съкращава драстично.

 

 

Аз си издигнах паметник неръкотворен

Всичко това има много измерения, не само като време и усилия, но и от гледна точка на спестяването на огромните енергийни ресурси, които често са нужни за работата на суперкомпютрите.

Истината е, че знаем прекалено малко за това, което прави всъщност дълбоките невронни мрежи толкова ефективни. Както вече е ставало дума, ние им подаваме данните, радваме се на все по-успешните резултати, докато все още те са черна кутия, не знаем какво точно се случва по средата. Но тук нещата стават по-сложни, ако имаме и хипермрежи. Ако случайно те не се справят добре със задачата си, ние няма как да знаем, че се е случило и най-вече защо. Ще имаме пристратие, дори издигнато на следващо ниво…

 

Робот плет плете

Нека за секунда се върнем на добрия стар Терминатор. В крайна сметка там имахме срещата на два абсолютни изкуствени интелекта – единият искаше да унищожи хората, а другият – да ги опази. Е, вече имаме нещо подобно като решение и в областта на днешния ИИ. Стартъп с българско участие разработва невронна мрежа, която да следи и да ни предпазва от това други такива да излязат от контрол…

Стартъпът се казва Tenyks и в началото на 2022-а набра 3,4 милиона долара финансиране с нестандартното си предложение. Сред инвеститорите личат сериозни имена, например на Джон Тайсъм, първия човек, подкрепил финансово Yahoo през 1995 г.

Създател на компанията и автор на идеята е докторантът от „Кембридж“ Боти Диманов. Платформата, разработена от него и двамата му партньори, е насочена към разработчиците в областта на машинното самообучение. С помощта на тяхното приложение те могат да разработват проектите си по-бързо и безопасно.

Платформата им позволява системите, ползващи ИИ, да бъдат изпитвани значително по-лесно и сигурно. Да се справят по-бързо с първоначалния анализ на данните, които получават, за да създават по-целенасочени решения в избраната област. Целта е също да се разработват модели, които са по-независими от човешките грешки, от подвеждането по първоначалната информация в зависимост например от личните ни предпочитания.

 

 

Пристрастяване

Tenyks приема моделите, разработени от програмистите, и ги оценява по различни параметри. Търси слабите им места и къде се забелязва това прословуто пристрастие, недолюбваният от специалистите „байъс“. Тоест… отново имаме ИИ, който помага пряко в създаването на своите събратя.

„Всеки път, когато технологиите стигнат границите на невъзможното, се появяват следващата категория софтуерни решения. Компютрите развиха графичните си интерфейси, а интернет – търсачките. Ето защо вярвам, че ИИ ще има подобни платформи, които ще позволят да изведем на следващо ниво разработването му“, казва Боти Диманов пред сайта The Recursive.

Една от причините темата да е все по-актуална е и начинът, по който се обработват самите данни. „Разработката на ИИ днес преминава от работа, концентрирана върху модела, по който се обработва информацията, върху такава, насочена към самата информация“, казва Рик Хао – един от колегите на Диманов. Именно тук идва приложението, разработвано от екипа – то помага на инженерите с първоначална обработка и с анализа на стъпките, които да направят, така че да подобрят работата на алгоритмите.

 

 

Роботизиран дзен

Роботите не разбирали от поезия? Дълго можем да спорим (и сме го правили тук). „Първопроходец с два отворени края“ по-скоро звучи като вогонска поезия, но на английски Paired Open-Ended Trailblazer се съкращава като POET. Това е проектът на ИИ специалиста от „Юбер“ Руи Ланг, който отново е свързан с темата ни.

Накратко: идеята е отново да се създаде хипермрежа, която обаче изпитва и надгражда алгоритмите по различен начин.

Тъй като авторът е от Изтока, той описва работата на системата си като кунг фу надпревара. На алгоритмите се поставят задачи, те се изправят едни срещу други и не само става ясно кой е по-добър, но и всеки от „участниците“ напредва и се развива в това, което прави. „Накрая от тренировъчното дохио излиза един завършен, истински кунг фу майстор“, казва Ланг.

Системата започва с проста задача, като на всеки следващ етап преминава с нови знания, сблъсквайки се с различни препятствия. Когато успее или се провали на даден етап, „състезателят“ преминава в съвършено нова околна среда. Особено успешен фактор се оказва решението средата да се променя на случаен принцип.

„POET се базира на един парадокс“, казва Уанг. „В живота се случва така, че ако се опиташ да решиш даден проблем, ще се провалиш, а ако не опиташ, е много по-вероятно да успееш. Понякога точно така се случва еволюцията в природата, затова е възможно нещо подобно да се постигне и с изкуствения интелект“.

 

 

Дарвин прави Дарвин

Според екипа именно подобни проекти стоят по пътя ни към това да създадем дългоочаквания абсолютен ИИ. Който ще е способен да решава различни задачи, а не само една конкретна, както, стана дума, се случва в момента. Тоест, колкото и да изглежда далечно бъдещето на такъв тип разработки, корените им вече са тук.

„Време е да започнем да създаваме алгоритми, които по начало съдържат определена форма на интелигентност и да ги наблюдаваме как сами създават следващите, докато, евентуално, стигнем до абсолютния ИИ“, казва Джеф Клуун от OpenAI.

„Истината е, че засега той е просто фантазия. Но това е така най-вече, защото никой не знае как точно може да го създаде. Напредъкът в тази област зависи от хората, случва се стъпка по стъпка. Използват се вече открити и познати решения, които се комбинират по различен начин, като постепенно се подобрява успеваемостта им“. Клуун казва, че по този начин създаваме все по-добри отделни блокчета, от които трудно ще построим сами сградата на абсолютния ИИ. „И може би на алгоритмите се пада тежката задача да съберат всичко заедно“.

 

 

Малки деца – малки проблеми…

А какво става после? Както казва Джейн Уанг от проекта DeepMind, едно от основните предимства да включим ИИ в създаването на ИИ е, че той ще дойде с идеи за дизайн и техники, които за хората биха били неочаквани. „Но не всички изненади са хубави. Ако впрегнеш ИИ в целта да създаде нещо, което ти не познаваш, е много по-трудно да го контролираш и да предположиш къде ще изникнат проблемите“.

Начинанията, за които ви разказахме, са решителните първи стъпки към създаването на абсолютния изкуствен интелект. Готови ли сме обаче за следващите? Не толкова технически, а цивилизационно? Заедно ще продължаваме да търсим отговора в следващите Дигитални истории…