Обновено на 09.10.2024 г.
Можете да чуете тази Дигитална история в 
Как компютърен учен заслужи… Нобеловата награда по физика за 2024-а?! Защо един от хората, направили възможен големия бум на изкуствения интелект през последните години… изведнъж каза, че съжалява за делото си. И дори напусна уютното си работно място в Google, за да може свободно да говори за рисковете, които идват с изкуствения интелект.
Джефри Хинтън е гордо изправен пред важните теми. И метафорично, и буквално, защото, по собствените му думи, заради здравословен проблем не е сядал от 2005 г.
„Трудно е да се види как може да се попречи на злонамерените хора да използват изкуствения интелект за лоши цели.“ „Не е немислимо изкуственият интелект да заличи човечеството“, казва големият учен. И още: „Трябва да помислим много повече за това как да контролираме системите с ИИ, способни да се самоусъвършенстват“.
Очаква ни една забележителна и толкова важна дигитална история.
Уловени в мрежата
Невронни мрежи, изкуствен интелект… повтаряме и чуваме тези определения всеки ден, без да се замисляме колко са свързани те с идеята софтуерът да наподоби човешкия мозък.
Това съвсем не е случайно, асоциацията е логична. Първи успява не просто да се сети за нея, а и да я приложи днешният ни герой, един от най-големите учени на нашето време. На Джефри Хинтън дължим огромна част от напредъка, който имаме днес в областта на така актуалния изкуствен интелект.
Често го наричат „Кръстника“ или „Бащата на ИИ“, с което той… доста се забавлява. Защото, освен всичко друго, има и типичното британско чувство за хумор.
Изкуствен интелект, сър
По времето, когато Хинтън предлага компютърни системи, които да работят на принципа на човешкия мозък, това звучи като (не)научна фантастика. Той обаче е убеден в концепцията си, защото е сред малцината, които имат достатъчно задълбочени познания и в двете посоки: когнитивните науки и софтуерно инженерство.
От малък Джефри се интересува от начина, по който работи мозъкът ни и веднъж се заприказва по темата с приятел. Заедно стигат до извода, че спомените се съхраняват в мозъка ни в многопластова мрежа от неврони по същия начин, по който данните за триизмерна холограма се пазят в компютърния харддиск.
Става му любопитно и се заравя в темата. В резултат стига до извода, че модерната наука все още не може да даде много от отговорите, свързани с начина, по който функционира най-важният ни от гледна точка на еволюцията орган. Нито психолозите, нито специалистите по невронауки могат да кажат какви са физиологичните механизми, от които зависи интелигентността.
Елементарно, Джийвс
През следващите години Джефри специализира в тази област – завършва бакалавърска степен по психология в Кеймбридж и докторат по изкуствен интелект в Единбург. Започва и да преподава. Основните му научни интереси са в софтуерните разработки, наподобяващи работата на мозъка с цел той да бъде изследван.
После обаче Хинтън стига до фундаменталната идея, която стои зад днешния бум на ИИ: ако бъдат използвани подходящите структури, компютрите могат да се учат и да развиват своя интелигентност, сходна с човешката.
Така се ражда направлението, което днес ни дава невероятни възможности в най-различни посоки: от автономните автомобили до лицевото разпознаване. И… ChatGPT.
„В науката често се случва да кажеш нещо, което звучи шантаво, а в дългосрочен план да се окаже, че си бил на прав път“, казва Хинтън.
Разбира се, терминът „изкуствен интелект“ съществува много преди британецът да предложи днешното му значение. Преди да се появят дълбоките невронни мрежи обаче, става дума за много по-прости алгоритми. Те няма как да откриват фините закономерности, а именно това е търсената задача на изкуствения интелект.
За невронни мрежи се говори от зората на компютърната ера. Става дума за поредици от алгоритми, „подредени“ в слоеве, които могат да обработват информацията и да търсят закономерности така, както го прави човешкият мозък.
Трима ИИ в една лодка, без да броим кучето
В края на 50-те погледите привлича изследователят от Корнел Франк Розенблат, създателят на „Перцептрон“. Програмата, базирана на примитивните тогавашни компютърни платформи, уж може да разпознава изображението на ябълка. Тя е първата, която носи и званието „невронна мрежа“. Уви, доста неубедително.
През 1958-а в „Ню Йорк Таймс“ излиза голяма публикация, която разказва как „Перцептрон“ ще се превърне в първата машина, способна да работи като човешкия мозък. „Един ден той ще може да говори, да върви, да гледа, да пише, да се възпроизвежда, дори да осъзнава факта, че съществува“.
Само че „Перцептрон“ не успява дори да различава ляво от дясно. Проваля се и в основната си задача. А докато работи, примитивният компютър изглежда по-скоро като пародия на научнофантастичен хорър. Конгломерат от случайно сглобени врати от хладилник и компютърни чаркове.
През следващите 40 години никой не иска да споменава отново идеята за невронна мрежа. Хинтън също среща скепсиса на преподавателите си, който неминуемо е до него през целия път. Но не се отказва.
Може би тайната на упоритостта е някъде в гените му. Второто му име е „Еверест“, човекът, чието име носи най-високият връх на планетата, е сред предците му. Негов прапрадядо е Джордж Бул, бащата на булевата алгебра, чиито основи програмистите използват всеки ден. И дори споменават името му заради типа променлива, кръстена на него – булева.
Мистър ИИ, предполагам?
Два са големите пробиви, с които е свързано името на Джефри Хинтън. През 1986 г. той влиза в светлината на прожекторите, след като с двама съавтори създават научна публикация, която изважда от паяжините концепцията за невронни мрежи. Тя е обогатена от идеята, че информацията трябва да се обработва и в двете посоки от алгоритмите. След като веднъж е преминала през поредицата от слоеве, трябва да бъде обработена и „наобратно“, за да се провери доколко са точни намерените закономерности.
Дори и най-големите скептици се убеждават, че предложеното решение има огромен потенциал. Уви, по онова време компютрите все още не са готови за следващите големи стъпки, идеите са изпреварили драстично технологиите.
Така идва дългият период, известен като „зимата на ИИ“. Напредъкът по темата спира, малкото специалисти в тази посока се насочват към други области.
После обаче идва моментът. През новото хилядолетие компютрите натрупват все по-внушителна изчислителна мощ. През 2004-а Хинтън вече живее в Канада и получава нужното доверие, за да направи дългоочаквания пробив. Местният Институт за изследване на иновациите му предлага сериозно финансиране, за да създаде обща програма за специалисти по компютърни и невронауки, психолози и хора от други области, които да работят в тази посока.
ИИ да пази краля
Така стигаме до 2012-а, когато отново заедно с колеги Хинтън предлага първия впечатляващо добре работещ модел, който може да класифицира изключително точно снимки – да разпознава какво се вижда на подаденото му изображение. Прави го значително по-добре от човека!
Съавтори в това начинание са други двама забележителни учени от днешния ИИ свят. Иля Суцкевер – съосновател и до неотдавна водещ учен в OpenAI, си спомня с носталгия „ИИ зимата“, когато професията им изглежда обречена. „Ние бяхме пълни аутсайдери, но в същото време усещахме, че знаем нещо повече от света и това ни караше да се чувстваме специални“.
Триото се допълва от Алекс Крижевски. „ИИ е нещо като крайната цел на компютърните науки“, казва днес той. „Целта им е да автоматизират повече неща, а изкуственият интелект цели да автоматизира абсолютно всичко“.
И така, Хинтън и колегите му се явяват на ежегодно състезание за различни системи, които могат да разпознават снимките от популярната база ImageNet. Печелят с цели 10% разлика пред конкурентите. И, което е по-важното, се оказват по-точни дори в сравнение с човешкия поглед.
„Причината днес да имам влияние в тази сфера е, че аз бях сред малцината вярващи в невронните мрежи. Но бях толкова убеден в тях, че всички студенти спонтанно ми се доверяваха и идваха да работят с мен. Имах късмета да мога да избирам само най-добрите“, спомня си онези времена Джефри Хинтън.
След състезанието екипът създава компания, която почти незабавно е придобита от Google за 400 милиона долара. А след това имената на тримата са свързани именно с различни начинания на тази компания.
Сър ИИ
Алгоритъмът им се оказва истинска революция. Да, за да работи достатъчно добре, използва доскоро немислими изчислителни възможности, но се превръща в първото безспорно приложение на дълбоките невронни мрежи.
Дълго чаканото бъдеще идва като вълна. Появяват се някои от най-големите днешни компании, занимаващи се с разработки в областта на изкуствен интелект. Приложенията му растат, алгоритмите стават все по-добри, убеждаваме се всеки ден. И можем само да гадаем дали бихме стигнали дотук, ако мистър Джефри не беше толкова смел и упорит.
През 2018-а идва първият венец в кариерата му. Заедно с други пионери на направлението – Ян Лекун и Джошуа Бенджио, Джефри Хинтън получава „Тюринг“, аналог на Нобеловите награди в областта на компютърните науки.
До 2023-а Хинтън продължаваше да работи активно, вече като част от екипа на Google. Именно затова, точно когато изкуственият интелект се превърна в темата на деня, със страшна сила отекнаха думите на учения, че вече съжалява за делото си и напуска работата си за технологичния гигант, за да може свободно да говори за рисковете, които идват с изкуствения интелект. Но ще стигнем и дотам.
Спокойствие и само спокойствие
„Смятам, че невронните мрежи имат много общо с Фройд“, обяснява Хинтън. „Идеята, че има тънък видим слой на съзнанието и всички онези кипящи неща отдолу. Те не са осъзнато, умишлено разсъждение, а нещо друго – нещо, което работи по аналогии. Точно както го правят дълбоките невронни мрежи“.
Според Хинтън те са естествената следваща стъпка в развитието на технологиите. „Ранният ИИ се базираше на логиката. Опитваш се да правиш компютри, които да разсъждават като хората. Вторият път дойде от биологията: опитваш се да правиш компютри, които могат да възприемат, да действат и да се адаптират, подобно на животните“.
Станало е мозък
След пробива на Хинтън и колегите му в света на дълбоките невронни мрежи нещата се променят. Едни и същи алгоритми се оказват способни на чудеса в различни области и неслучайно все по-вероятно изглежда бъдещето, когато ще стигнем и до генералния изкуствен интелект – невронна мрежа, способна да решава огромен кръг различни задачи. А оттук… пътят ни води до дълго очакваната от самия Хинтън цел: компютърен „мозък“, неразличим от човешкия.
Можем само да гадаем докъде ще ни доведе всичко това. Интересно е обаче какво мисли по темата днешният ни герой.
Той твърдо вярва, че бъдещето е именно в тази посока, но имаме още много стъпки дотам. В едно от знаковите му интервюта го питат дали наистина машините могат да бъдат научени на всички дейности, на които е способен и човешкият мозък. Дали емоциите ще могат да се възпроизведат? Дали всичко човешко ще може да бъде претворено в невронни мрежи?
„Сигурен съм на 99,9%“ – отвръща Хинтън. „Останалите 0,1% за мен са вероятността, че живеем в огромна симулация“.
Познавате типичното британско самочувствие и характерното чувство за хумор. И все пак, убедеността му е повод да се замислим.
До неотдавна професорът казваше, че можем да постигнем човешко ниво на интелигентност, но това не се задава поне в близките 40 години. После нещо рязко се промени.
Джентълмени на късмета
Джефри Хинтън е показал, че знае как да се бори за идеите си, дори когато са непопулярни. Така е и в личния му живот. С първата му съпруга тъкмо успяват след дълги перипетии да осиновят момче и момиче, когато тя е дигностицирана с напреднал рак на маточната шийка. След броени месеци Хинтън остава самотен баща и се грижи за хлапетата в годините, когато идват най-големите му научни успехи. Синът му се оказва със синдром на дефицит на вниманието.
После се жени втори път, но решава, че ще пази в тайна личния си живот и за следващия му брак не се знае много. В някакъв момент и втората му съпруга чува диагнозата „рак“, но за щастие успява да се излекува.
А Джефри Хинтън си остава джентълмен и рядко говори по тези теми. Още един знак за характера му: ученият страда от постоянна силна болка. Когато е на 19, наранява кръста си, носейки радиатор към стаята на майка си. Това отключва дискова херния, която постепенно се усложнява. Какво е решението на проблема? По собствените му думи, той нито веднъж не е сядал от 2005-а.
Мъж на място
Дълги години Джефри и семейството му живеят в САЩ, където смята, че има по-благотворна почва за работа. Но тъй като има леви политически възгледи, емигрира в Канада по времето на Рейгън, защото се чувства потиснат.
Макар днес да го смятат за канадец, тъй като няколко десетилетия живее в северната страна, той си остава британец по дух. „Иронията е едно от трудните неща, на които да научим алгоритмите“, казва той. „Първо трябва да ги направим майстори в света на литературата. Но американците също не схващат иронията. Така компютрите ще стигнат нивото на американците, преди британците да го направят“.
До неотдавна Джефри казваше, че разчита много на алгоритмите да ни помагат във все повече области. „Мисля, че изкуственият интелект ще направи живота ни по-лесен. Потенциалните опасности, за които говорят някои хора, нямат нищо общо със самата технология, а са свързани с това как е организирано човешкото общество. Тъй като съм социалист, аз чувствам, че когато технологията идва заедно с по-висока продуктивност, всеки трябва да получи от благата ѝ“.
Един британец в двора на крал Рейгън
„Та ние всъщност сме машини!“, смята изследователят, който, както разбрахме, определено знае какво говори по темата. „Ние просто сме създадени биологично. Повечето хора, които работят в сферата на ИИ, нямат съмнение, че сме машини. Просто сме изключително изпипани машини. И не трябваше да казвам „просто“. Та ние сме едни специални, невероятни машини!“.
И така, не разчитайте на него за точни прогнози какво е бъдещето, което ни очаква. Но разчитайте за технологиите, които ще го доведат.
През 2021-а, в разгара на пандемията, Джефри Хинтън се появи в специализираните медии с впечатляваща новина. Престоят вкъщи му помогнал да създаде изцяло нов модел на алгоритми, базирани на невронните мрежи, които могат значително да изпреварят днешните!
Глом, глом
Нарича новия си принцип ГЛОМ и го определя като „най-доброто, което мисля, че обединява различните посоки“. Признава, че за момента не предлага готов, работещ модел, а по-скоро концепция, която трябва да бъде доразвита от следващите учени, за да направи следващата голяма стъпка в изкуствения интелект. Хинтън обяснява, че ГЛОМ е начинът да моделираме човешките възприятия в машина – дава ни нов начин да обработваме визуалната информация. Той решава два основни проблема, които днес стоят пред този тип алгоритми. До момента те определят успешно различните елементи от картината, която виждат, но не са способни да дадат информация за местоположенията им един спрямо друг. Освен това не са способни да променят перспективата към тях. ГЛОМ обаче обещава чудеса в тази посока.
А това може да ни помогне сериозно там, където до момента алгоритмите все още не постигат дълго чаканите резултати.
„Основната цел на живота ми е да разбера как работи мозъкът. И всички тези технологии идват като опити да го направя. Те не работят като мозъка, но са доста полезни странични ефекти“, казва Хинтън.
Бум!
И точно както бяхме свикнали да мислим за Хинтън като за човек, който не обича медийните изяви, това рязко се промени, след като „отрочето му“ влезе в светлината на прожекторите с идването на ChatGPT.
Пред „Ню Йорк Таймс“ на 1 май 2023 г. той обяви, че подава оставка от Google, за да може „да говори за опасностите от ИИ, без да се съобразява как това се отразява“ на доскорошния му работодател. Допълни, че „част от него сега съжалява за работата на живота му“. „Генералният изкуствен интелект може да е на по-малко от 20 години и ще доведе до промени, сравними по мащаб с индустриалната революция или електричеството“, предупреди вече той. А след като доскоро толкова консервативният във възгледите си британец го казва, мисля, че си заслужава да се задълбочим в думите му. Да си говорим повече по темата.
След като дълги години Джефри говореше с умерен оптимизъм за бъдещето, в края на 2023 г. той даде следващото подробно интервю, в което обясни за рисковете, които се задават. „Технологиите с изкуствения интелект с времето ще преобърнат пазара на труда и ще отнемат не само тежката работа“. Нещо повече, правителствата съвсем скоро ще трябва да помислят за въвеждането на безусловен базов доход. ИИ рязко ще повиши производителността, но ако бъде оставен без контрол, само ще направи богатите по-богати и ще навреди на хората, които могат да загубят работата си. „Това ще бъде много лошо за обществото“, предупреди още той.
„Не е немислимо изкуственият интелект да заличи човечеството“. „Трябва да помислим много повече за това как да контролираме системите с ИИ, способни да се самоусъвършенстват“. Иначе те могат да станат властолюбиви или да решат да се предпазят от изключване, за да изпълняват последващи задачи. И без преувеличение, според него могат да се превърнат в риск за цялото човечство.
И още: „Трудно е да се види как може да се попречи на злонамерените хора да използват изкуствения интелект за лоши цели.“
Nobel? No way…
И ето че стигаме до финалния щрих. Не успях да намеря точни коефициенти от залози, но прочетох поне 20 списъка в технологични и научни медии с предсказанията кой ще получи Нобеловата награда за физика през 2024 г. И в нито един от тях не фигурираше името на днешния ни герой. Надали някой извън комисията, даваща наградите допускаше, че наградата ще отиде именно при Джефри Хинтън, споделена с физика Джон Хопфилд, който обаче също е отличен за разработването на дълбоките невронни мрежи.
„Ама това не е физика“, възкликнаха немалко популяризатори на науката онлайн.
Е, не е моя работа да преценявам кое е физика и кое – не. Но е прекрасна новината за наградата, защото така още повече ще се чуе какво има да ни казва големият учен. Все повече ще отекват големите въпроси, които той поставя за бъдещето. За липсата на разговори в търсене на големите отговори, които е крайно време да обсъждаме по-активно. Именно заради тях, впрочем, го има и сайта Дигитални истории.
Човешкият мозък си остава чудо. Но и технологиите идват с много чудеса благодарение на хора като днешния ни герой. Какво ли ни готвят за бъдещето?
