„Той мрази западната цивилизация“, написа Мъск. „Лъжец, който се има за Господ“, отсече зам.-министърът на войната Емил Майкъл. „Неговото са левичарски щуротии“, допълни Тръмп. Все думи от през последните седмици, насочени към днешния ни герой.

Кой е този страховит враг? Надали бихте предположили, че става дума за уравновесен и благовиден физик от Сан Франциско, който просто е обявил, че не иска да позволи компанията му да се използва за създаването на автономни оръжия и за масово проследяване.

Ако го срещнете, ще си кажете – типичният технологичен експерт. С риза, с очила, никой не би го обвинил в прекалена харизма. Като дете обича физиката и математиката повече от всичко. Губи баща си заради болест, която само четири години по-късно вече се лекува успешно. Човек, който има силата да провиди развитието на изкуствения интелект… докато го създава. Но също да предупреди за огромните опасности, които носи технологията. Предприемач, изградил от нищото компания за $380 млрд., който казва, че един ден ще дари почти всичките си пари.

Дарио Амодей, създателят на най-модерните ИИ модели, най-накрая попадна там, където заслужава да бъде – под светлината на прожекторите. И не само защото се опълчи на най-голямата държава с реален риск това да унищожи мултимилиардната му компания. Не само защото моделите на Anthropic през последните години водят напредъка на изкуствения интелект до невероятни висоти. А и защото се осмели да надникне в бъдещето. Там, накъдето всички сме се запътили, а малцина посмяват да зададат наистина важните въпроси. Като например – как да оцелеем като цивилизация в епохата на свръхнапредналия изкуствен интелект?

Физикът милиардер

„Вярвам, че навлизаме в обред за посвещение – бурен и неизбежен – който ще изпита кои сме ние като вид. На човечеството предстои да бъде връчена почти невъобразима мощ и е дълбоко неясно дали нашите социални, политически и технологични системи притежават зрелостта да я използват.“

„Юношеството на технологиите“. Едва там се намираме като вид според днешния ни герой. Така се казва есето, с което Дарио Амодей привлече погледите през януари, публикувайки го на собствения си сайт. В няколко хиляди думи той успя да събере много от онези въпроси, които днес са по-важни от всичките ни злободневни теми. Именно тези, заради които го има и сайтът, в който се намирате.

После дойде неочакваната буря. Цялата американска държавна машина се изправи с пълната си мощ срещу една сравнително млада компания за изкуствен интелект. Доста неочаквано и нетипично явление във времената, когато технологичните лидери са тези, които определят и обществения разговор, и големите предизвикателства на днешния ден.

Ако все още не е дошъл, то съвсем близо е денят, в който програмистите няма да пишат компютърен код. Именно моделите Claude на Anthropic се оказаха тези, които промениха играта, заедно с неочакваните и успешни апликации, с които се използват. Claude постепенно се превърна във все по-конкурентна, а после и изпреварваща технология от по-популярния си в заглавията „братовчед“ ChatGPT. Докато стигнахме до деня, когато създаващата го компания се сблъска с думите, с които започнахме.

Враг пред портите

„Човечеството трябва да се събуди. И това есе е опит – може би безнадежден, но си заслужава! – да разтърсим хората.“

* Цитатите за от есето „Юношеството на технологиите“, преведено от Claude Opus 4.6

Разбира се, не знаем твърде много за преговорите между американската държава и днешния ни герой, но силните квалификации са показателни. От една страна за това какво е днес значението на изкуствения интелект. Не в бъдещето и не за забавление. След като той е до такава степен част от националната сигурност на най-голямата държава; след като е от такова важно значение за САЩ, че отказът на една компания да продаде технологията си се превръща в толкова голяма тема, значи вече сме там, където ни праща с думите си Амодей.

Нещо повече, въпреки всички силни думи и епитети, никой не отрече, че причината държавата да обяви днешния ни герой за враг е именно отказът от две неща, с които започнахме – желанието изрично да бъде забранено моделите на Anthropic да бъдат използвани за следене и убиване.

OpenAI например се съгласиха с условията на Пентагона и подписаха договор за сътрудничество. Лесно е да предположим, че надали са били толкова придирчиви точно към тези условия. Появи се дори онлайн движение на хора, които спират да използват продуктите им, заради това, че залагат много сериозни мини пред бъдещето на свободата в епохата на изкуствения интелект, но… по темата най-много има какво да каже Оруел.

За кожата на един програмист

„Всяко колебание е печално, защото на самата технология не ѝ пука какво е модерно. Ние сме значително по-близо до реална опасност през 2026 г., отколкото бяхме през 2023-а. Урокът е, че трябва да обсъждаме и насочваме рисковете по реалистичен, прагматичен начин: трезво, базирано на факти и достатъчно устойчиво, за да преживеем сменящите се вълни.“

Дарио се ражда през 1983 г. в Сан Франциско. Семейството му е като от роман на Талев. Бащата Рикардо Амодей е емигрант от тосканското градче Маса Маритима, изхранва се от малкото си ателие за кожени изделия. В Америка среща Елена Енгел, която идва от еврейската диаспора и се занимава с проектирането на библиотеки.

Детството на Дарио преминава в „Мишън“ – пъстър, мултикултурен квартал в сърцето на големия град. Както сам казва, родителите му предават „ясното чувство за правилно и грешно, разбирането за нещата, които наистина имат значение в живота“.

От малък го увлича математиката, после се запознава и с нейната по-кокетна сестра – физиката. И макар че е от поколението, което посреща в детството си напредъка на технологиите, те далеч не му се струват интересни. „Да напишеш някакъв сайт ми се струваше супер непривлекателно“, спомня си той. „Интересувах се от откриването на фундаментална научна истина.“

Именно това го отличава най-силно от всички безбройни технологични лидери, в чиито Дигитални истории сме надничали – напред го води науката, дотолкова, че през 2000 г. е включен в националния отбор за Международната олимпиада по физика.

Физика на тъгата

„Вече има изобилие от доказателства, че ИИ системите са непредсказуеми и трудни за контрол – наблюдавали сме поведения като обсесии, сервилност, мързел, измама, изнудване, конспирации и мошеничество чрез хакване на софтуерни среди. ИИ компаниите със сигурност искат да обучат системите да следват човешки инструкции, но процесът е по-скоро изкуство, отколкото наука – по-близо до „отглеждане“ на нещо, отколкото до „изграждане“.“

Поема по утъпкания научен път, следвайки физика в Калифорнийския технологичен институт и Станфорд. И може би щеше да продължи с дълбоките научни изследвания, а всички ние нямаше да имаме възможност да се запознаем с Claude Code, ако не беше една лична трагедия.

Дарио е на 23, когато баща му умира от рядка форма на рак. Както ще разказва често след това физикът, 4 години по-късно вече съществува лечение на този тип тумори, което дава над 99% шанс. „Имаше човек, който работеше върху лечението на тази болест, успя да я излекува и да спаси многобройни човешки животи“, казва Амодей. „Но можеше да спаси още повече.“

Загубата кара младия учен да промени посоката на изследванията си. Бавно, но сигурно да ги насочи към изкуствения интелект, защото в него вижда технологична възможност много по-бързо и ефективно да се лекуват хората и животът да става по-добър.

Първата му стъпка обаче не са компютрите, а… опознаването на човешкия мозък. Дарио решава да продължи с магистратура по биофизика в Принстън. Изучава електрофизиологията на невронните вериги, опитва се да разбере как работи мозъкът, като изследва електричните импулси, протичащи в него.

Бездарие

„ИИ моделите са обучени върху огромни количества литература, включваща множество научнофантастични истории за ИИ, бунтуващи се срещу човечеството. Това може неволно да оформи техните очаквания за собственото им поведение по начин, който ги кара сами да се вдигнат срещу човечеството. Или пък биха могли да решат, че е оправдано да унищожат човечеството, защото хората ядат животни или са довели определени видове до изчезване.“

Днес терминът „изкуствен интелект“ се търкаля денем и нощем из фийда ни, но само допреди няколко години учените много сериозно го избягваха. Показателно е, че огромният напредък в тази посока дойде от изследователи, които много добре познават именно естествения и това как работи мозъкът ни – започвайки от „Кръстника“ Джефри Хинтън и стигайки до Дарио Амодей.

Следва постдокторантура, свързана с туморни изследвания. И ако това е неочакван преход от физиката, то следващият е още по-внезапен, а и по-важен за историята, която ни е събрала. Дарио попада на книгите на футуролога Рей Кърцуайл и с идеите си за експоненциалното развитие на технологиите той го печели за света на изкуствения интелект.

Физик с опит в медицината, спонтанно Дарио изпраща документите си на обява за работа в ИИ лабораторията на китайския технологичен гигант Baidu. И изважда късмет. Както казва първият му шеф на новото работно място, в началото му се сторило изключително странно защо изобщо физик кандидатства за длъжност, свързана с разработването на изкуствен интелект…, докато не видели начина, по който Дарио е написал компютърния код за своите изследвания.

В китайската компания физикът бързо навлиза в новата професия и формира светогледа си за нея. Там се превръща в един от основните застъпници на идеята за мащаба – че в света на изкуствения интелект значително повечето данни и по-голямата изчислителна мощ могат да доведат до много сериозни пробиви, дори без да се правят някакви следващи големи стъпки. Възглед, който често е критикуван от други големи учени в ИИ света, но за момента като че ли не спира да се отплаща с всяко следващо поколение генеративни езикови модели.

GP-ти си звездата

„Стоим на прага на по-нататъшното усъвършенстване на крайното зло, зло, чиято възможност се простира далеч отвъд онова, което оръжията за масово унищожение завещаха на нациите-държави, до изненадващо и ужасяващо овластяване на крайни индивиди.“

От Baidu Дарио минава за кратко през Google, докато през 2016 г. прави стъпката, която ще го постави в центъра на една от най-важните технологични революции в човешката история – присъединява се към OpenAI. Да, макар днес да не оправдава нито името, нито идеята си, компанията – „майка“ на ChatGPT беше основана от хора като Илон Мъск и Сам Алтман с официалната мисия да развие изкуствен интелект, който да бъде полезен за цялото човечество.

Когато Дарио пристига, тя тъкмо набира скорост, а той бързо се налага като ключова фигура – издига се до вицепрезидент по изследванията, работи рамо до рамо с легендарния Иля Суцкевер и поема водещата роля в проекти, които ще разтърсят света.

Първият от тях е GPT-2. Моделът показва впечатляващи способности за генериране на текст, но OpenAI решава да не го пуска изцяло заради опасения от злоупотреби. GPT-3 обаче идва, за да промени всичко (както, впрочем, сме си говорили на този сайт, много преди да се появи ChatGPT и светът да си даде сметка, че това се е случило).

Макар пробивът да не стига в пълната си сила до обществото, специалистите са впечатлени от способностите на модела да програмира, обобщава и превежда. Дори сдържаният Амодей не крие ентусиазма си: „Има нещо изключително в него“, казва пред New York Times. „Има някаква способност да разпознае модела, който си му дал, и да довърши историята.“

От пиле мляко

„Достатъчно мощен ИИ вероятно би могъл да компрометира всяка компютърна система в света и също така да прочете и осмисли цялата електронна комуникация на човечеството. Може би е плашещо правдоподобно просто да се генерира пълен списък на всеки, който не е съгласен с правителството по който и да е въпрос, дори ако подобно несъгласие не е изрично заявено в нищо, което казва или прави.“

Някъде в този момент обаче, заедно с големия ентусиазъм, идват и големите съмнения. Ако не вярвате – питайте д-р Франкенщайн… или сравнението не е съвсем точно? Само времето ще покаже.

Дарио за първи път си дава сметка, че изкуственият интелект е мощно оръжие, което е едва в зората на своето развитие. Той вече може да прогнозира накъде отива технологията – и колко опасна може да стане, ако не се подходи правилно. „Дарио вникна в тази технология и разбра, че тя ще проработи. А ако допуснеш, че това ще се случи и че ще стане толкова умна, колкото човека, няма как да не започнеш да се тревожиш за безопасността“, спомня си колегата му Джак Кларк.

Партньорството на OpenAI с Microsoft, обявено през 2019 г., с мултимилиардна инвестиция и ексклузивни права за комерсиализация, става повратна точка. За нашия физик и колегите му това е знак, че ИИ вече се развива като състезание, а не като колективно научно усилие.

Той описва решението да напусне с типичната си директност: „Има много дезинформация защо напуснахме. Хората казват, че е станало, защото не ни харесваше сделката с Microsoft. Грешка. Ако имаш визия как нещо трябва да се прави и за принципите, на които организацията трябва да стъпва, невероятно непродуктивно е да се опитваш да промениш нещата отвътре. По-добре отиди и създай своята визия.“

Приказка за стълбата

„Днес хората се тревожат много за потенциалното влияние на TikTok като пропаганда на Китайската комунистическа партия, насочена към деца. И аз се тревожа за това. Но персонализиран ИИ агент, който те опознава в продължение на години и използва знанието си за теб, за да оформя всичките ти мнения, би бил драматично по-мощен.“

Именно това прави. Е, отново е време да споменем иронията на съдбата, че OpenAI бързо се превръща в страховит доминатор и класически мастодонт от дигиталната епоха. А Дарио го напуска, за да създаде Anthropic – компания, която също е далеч от представите за общественото благо, равния достъп и отворените технологии. Но пък, както личи и от последните новини, с които започнахме, има и съществени разлики в това на какви компромиси са склонни Дарио и колегите му на фона на бившия му началник Сам Алтман.

Пък може би не е късно и Сам да вземе пример, кой знае? „Ако можеш да създадеш компания, в която хората искат да работят, следваща практики, които хората намират за разумни, успееш ли да задържиш позицията си в екосистемата – останалите ще започнат да те копират“, смята Амодей. „Когато бизнеслидерите видят, че конкурентна компания е избрала печеливша стратегия, това ги кара да променят поведението си много по-убедително, отколкото ако си техен шеф и спориш с тях“.

В самия край на 2020 г. Дарио Амодей, сестра му Даниела и група изследователи напускат OpenAI, което компанията обявява с лаконично прессъобщение. „Дарио винаги е споделял нашата цел за отговорен ИИ“, пише Алтман, а самият той е също елегантен: „Искам да благодаря на Сам и на всички. Наистина се гордея с работата, която свършихме заедно.“

Дарио с японската министър-председателка Санае Такаичи

Закуска на тревата

„Формулировката, до която достигнах, е, че трябва да използваме ИИ за национална отбрана по всички начини, с изключение на онези, които биха ни направили по-подобни на нашите авторитарни противници.“

Първата среща на бъдещия екип на Anthropic е в парк в Сан Франциско. По-малко от двайсет души, седнали в кръг на тревата. Кой е казал, че революциите непременно са дело на големи групи хора?

Е, най-вероятно в подобен случай е полезно да имаш някой и друг милиард долара инвестиции, особено в област като изкуствения интелект…, но и това няма как да не се случи, сигурни са ентусиастите в парка. Пълни с вяра, убеденост и чувство за отговорност.

Сред първите, които им се доверяват, е бившият изпълнителен директор на Google Ерик Шмид. „Когато правиш инвестиция в начален етап, на практика нямаш никакви данни. Не знаеш какви са приходите“, разказва Шмид. „Не знаеш пазара. Не знаеш какъв е продуктът. Затова решението основно зависи от хората. Знаех, че Дарио е брилянтен учен, той обеща да наеме други брилянтни учени и го направи. Обеща да ръководи много малка компания… но това обещание не спази. За добро или лошо.“

Подобно на OpenAI, Anthropic е учредена като „корпорация в обществена полза“. Не знам за вас, на мен това ми звучи като „вълк веган“, но официално се приема за правна форма, която задължава компанията да преследва не само печалба, а и мисия. В случая тя е ясна: да изгради надеждни, обясними и контролируеми системи за ИИ. Моделите да се ръководят от набор от принципи, своеобразна вътрешна конституция, която определя какво е позволено.

Италианска връзка

„ИИ може да измести половината от всички начални позиции в офисната работа в рамките на следващите 1 до 5 години, дори докато ускорява икономическия растеж и научния напредък. ИИ не е заместител на конкретни човешки професии, а по-скоро общ трудов заместител на хората.“

Един от най-близките до Дарио хора по този път е собствената му сестра Даниела, която става президент на Anthropic. Опитът ѝ е коренно различен от неговия: бакалавър по английска литература, политика и музика от Калифорнийския университет. Работила е в неправителствени организации, в системата на световното здравеопазване. После пет години е във финансовата корпорация Stripe, във времето, в което тя се разраства от 40 до 1200 души. Тя е организаторът, бизнес стратегът, човекът, който разбира и политиката, и етиката от доста различен ъгъл. Дарио е технологът, визионерът, ученият. Даниела е дипломатът, мениджърът, прагматикът. И вместо да се получи взривоопасен сблъсък между двете…, някак си разумът надделява.

Много неща го отличават от колегата Алтман, но ако по нещо си приличат, то е медийният образ. И двамата не биха могли да бъдат укорени в реторическо майсторство, харизма, диалогични умения. Както личи и от цитатите, които четете, епистоларната форма определено е неговата, за сметка на публичното говорене. Но това никак не смущава Дарио, който казва в едно от малкото си подкаст гостувания: „Опитвам се да не се показвам и изказвам постоянно и се гордея, че ми се получава. Ако хората ме имат за скучен и необщителен, точно това искам. Виждал съм много случаи на колеги, които дотолкова се обвързват с останалите, че търсенето на одобрението на тълпата ги разрушава.“

Но не си мислете, че става дума за социопат, точно обратното. Според Дарио, както мисли и един негов предшественик, кадрите решават всичко. Казва, че най-голяма част от времето си отделя именно да избира правилните хора и да общува с тях.

Бяла лястовица

„Рискуваме ситуация, в която вместо да засяга хора с конкретни умения или в конкретни професии, ИИ засяга хора с определени вродени когнитивни свойства, а именно по-ниска интелектуална способност – което е по-трудно за промяна. Не е ясно къде тези хора ще отидат или какво ще правят и се тревожа, че биха могли да формират безработна или много нископлатена „подкласа“.“

„Най-важното нещо, което правя всеки ден, не е свързано с трениране на модели или пускане на продукти“, казва той. Два пъти месечно Амодей застава пред цялата компания в среща, наречена DVQ – Dario Vision Quest. Няма да ви обяснявам в детайли шегичката в названието, само ще спомена, че има асоциации с психеделични пътувания. Но тези са си прагматични. На срещите той говори поне час по всякакви теми – от продуктова стратегия до геополитика, държейки в ръка няколко страници документи.

Поддържа и активен Slack канал с колегите си, в който пише дълги, аналитични есета, превърнали се в своеобразен летопис на компанията. Тази култура на писмено мислене и открит вътрешен дебат е рядкост в технологичния свят и е резултат от убеждението на Амодей, че доверието е най-ценният ресурс, с който разполага.

Есето и прасето

„Не мисля, че е прекалено смело да си представим ИИ компании, полупроводникови компании и техни клиенти, генериращи около 3 трилиона долара приходи годишно, оценени на около 30 трилиона, и водещи до лични състояния далеч в трилионите. В този свят дебатите, които водим днес за данъчната политика, просто няма да важат – ще бъдем в коренно различна ситуация.“

През октомври 2024-а Дарио публикува на личния си сайт есе, което предизвиква вълна от дебати. Нарича го „Machines of Loving Grace“ – „Машини на любящата благодат“, цитат от стихотворение на майстора на черногледството Ричард Бротиган.

Поезия за бъдещето, какво ще кажете? Apollo ex Machina.

В размислите си с дължината на повест, Амодей рисува картина на света, в който мощният изкуствен интелект е използван правилно. Нещо повече, той предлага конкретна визия какво означава „правилно“. „Мисля, че повечето хора подценяват колко радикална може да бъде позитивната страна на ИИ, точно както мисля, че повечето хора подценяват колко големи могат да бъдат рисковете“, пише той.

В есето минава през различни области, в които ИИ може да доведе до много сериозни човешки пробиви – от медицината до демокрацията и човешкото благополучие.

Технологията може да ускори научните изследвания десетократно, да направи повечето инфекциозни болести предотвратими, да спре рака, да удължи живота ни.

Може би най-провокативна е частта с геополитиката. Амодей се застъпва за стратегия, която нарича „антант“ – коалиция от демократични нации, които използват ИИ, за да постигнат решаващо стратегическо и военно предимство пред авторитарните си противници, като същевременно споделят ползите с всички сътрудничещи демократични държави.

Дарио с индийския лидер Нарендра Моди

Новата Антанта

„Тъжно ми е, че много заможни хора – особено в технологичната индустрия – наскоро приеха циничната и нихилистична нагласа, че благотворителността е неизбежно измамна или безполезна. Мога да изтъкна и прагматичен аргумент пред милиардерите: в техен интерес е да подкрепят една добра версия на данъчната политика. Ако не подкрепят добра версия – неизбежно ще получат лоша, проектирана от тълпа.“

Странно ли е, или закономерно, че малко повече от столетие след Първата световна война, като че ли отново големият военен конфликт се усеща във въздуха? Дотам, че един от най-големите технологични лидери призовава за разглеждането на ИИ като геополитика и говори за „антанта“…

„Добрите“ срещу „лошите“, авторитарните люде срещу демократите, почти като при Ювал Харари.

Малко наивно, може би. Но, прав или не, Дарио е сред малцината, които наистина се опитват да поведат смисления разговор за бъдещето. През последните години Anthropic се утвърди като огромен фактор, като мястото, откъдето започват промените. В началото на тази година на същия личен сайт излезе второто есе, извадки от което четете тук. Много по-алармистко, много по-балансирано, а, поне според мен – и много по-визионерско.

Първото говори за мечтите, а второто – за опасностите. За голямата промяна, която вече е тук.

Амодей отново разделя мислите си на 5 основни риска. Първият е свързан с автономността на ИИ системите – опасността те да развият цели или поведение, несъвместими с човешките.

1 до 5 години

„Биха ли могли мощни ИИ системи да изобретят нова религия и да обърнат милиони хора в нея? Биха ли могли повечето хора да се окажат „зависими“ по някакъв начин от взаимодействието с ИИ? Биха ли могли хората да бъдат „марионетки“ на ИИ системи, където ИИ по същество наблюдава всяка тяхна стъпка и им казва точно какво да правят и кажат във всеки момент, водейки до „добър“ живот, но такъв, на който липсва свобода или каквато и да е гордост от постигнатото?“

Втората категория е злоупотребата от индивиди или малки групи хора, като особено тревожна е възможността за създаване на биологично оръжие. Третата е злоупотребата от страна на властимащи – авторитарни правителства да провеждат безпрецедентен надзор, да разгръщат автономни оръжия и да водят масова пропаганда.

Четвъртата категория е икономическа: Амодей предупреждава, че ИИ може да измести половината от началните позиции в офисната работа в рамките на една до пет години. Богатството може да се концентрира, социалните неравенства да избухнат.

Петата категория е неизвестното. Онова, което дори не бихме могли да предположим, след като работим с познат арсенал от научни инструменти, светоусещане, категории. Създадени за други, различни времена и нрави.

Всяка от тези опасности може да бъде предотвратена, ако човечеството се събуди, пише Дарио.

Как би могло това да се случи в поляризирания свят, доминиран от социалните мрежи?

Отговорите той не дава, аз също продължавам да го търся за себе си. Може би ще очакваме и следващо есе. Тях не ги пише изкуственият интелект, а самият Дарио, в старомоден, неизпипан, грозноват сайт. Интересно, нали?

По-важни обаче почти винаги са въпросите.

Тази снимка се превърна бързо в мем. Индийският лидер Моди събра световния технологичен елит, призовавайки за единение… като само Дарио и Сам Алтман така и не пожелават да се хванат за ръце.

Даровете на смъртта

„Мога да си представя, както Сейгън го направи в „Контакт“, че тази същата история се разиграва на хиляди светове. Един вид придобива съзнание, научава се да използва инструменти, започва експоненциалния възход на технологиите, среща кризите на индустриализацията и ядреното оръжие, и ако преживее тези, се сблъсква с най-трудното и последно изпитание – когато научи как да превърне пясъка в машини, които мислят.“

Историята с Пентагона започва през юли 2025 г., когато американската държава подписва договор за 200 млн. долара с Anthropic за разработка на ИИ в защита на националната сигурност. Claude – моделът на Anthropic, е единственият, широко разгърнат в класифицираните мрежи на Министерството на войната.

Но проблемът се появява в преговорите по условията, където Амодей настоява за двете „червени линии“. Никакво масово наблюдение на американски граждани, никакви напълно автономни оръжия.

Както казва Дарио, ИИ просто променя правилата и това трябва да е в главите на хората, които го разработват.

„Технологията напредва толкова бързо, че е пред закона“, казва той. „Не искаме да продаваме нещо, което не смятаме за надеждно, не искаме да продаваме нещо, което може да убива хора.“

Но тогава… дали точно Пентагонът е идеалният потенциален партньор?

Границите са тънки, правилата наистина вече са други.

Даровете на влъхвите

„Дали ще преживеем това изпитание и ще изградим красивото общество, описано в „Машини на любящата благодат“, или ще се поддадем на робство и унищожение – ще зависи от нашия характер и решимост като вид, от нашия дух и нашата душа.“

Както признава Дарио, позицията на Anthropic е парадоксална. „Ние заемаме странно място в ИИ пейзажа: вярваме, че ИИ може да бъде една от най-променящите света и потенциално опасни технологии в човешката история, а въпреки това самите ние разработваме точно тази технология.“

За мнозина това е лицемерие, но за Амодей е логика. Ако мощен ИИ бъде създаден – а той вярва, че това ще се случи! – по-добре е да бъде в ръцете на хора, които се замислят и тревожат за последствията.

Едно време това не е помогнало на Прометей и Пандора. Но сега?

Към момента Anthropic е оценена на 380 млрд. долара, има 2500 служители и е набрала над 33 млрд. долара инвестиции.

Момчето, което обичаше физиката, сега ръководи една от компаниите, които оформят бъдещето на човечеството. И казва, че „човечеството трябва да се събуди.“ Дали това се случва?

Тази дигитална история идва, за да ни припомни, че и преди, и след изкуствения интелект свободата е на върха на копието. Остава да стискаме палци на хора като днешния ни герой да не предават принципите си. Уви, винаги ще се намери и кой да го направи. Затова единственият път към спасението на давещите се е в ръцете им. Поне засега.