„Дълбоката лъжа“. Може ли технологията Deepfake да предизвика войни?

май 5, 2021 | Технологии

„Дълбоката лъжа“. Може ли технологията Deepfake да предизвика войни?

5 май 2021 | Технологии

Ексклузивно в интернет! Американският президент в директна видеовръзка обявява война на Китай!

Виждате гръмкото заглавие и, естествено, веднага пускате видеото. От екрана наистина, с драматичен тон лидерът на най-голямата световна сила казва, че Третата световна война е започнала. Нереално! Ами сега?! Ето, за нула време всички онлайн пишат за видяното и шокът преминава в инстинкт за самосъхранение…

Deepfake. „Дийпфейк“(с извинение), все още нямаме превод на български за технологията. Така или иначе, по-важното е да знаем на какво е способна и защо може да бъде опасна. Вече е напълно възможно да се създаде видео, в което особено убедително изглежда, че някой казва неща, които е решил авторът на клипчето.

Ето един пример:

 

Това видео се появи преди 3 години, а оттогава технологията се усъвършенства доста сериозно.

Днес спокойно можете да „сложите в устата“ на когото искате, каквото решите. И ако е изпипано по стандартите, фалшификатът става на практика неразличим от истината.

 

В дълбоки води

Няма съмнение, животът ни вече е зависим от изкуствения интелект. И от всички онези технологии, които се крият зад почти мистичния и същевременно изтъркан от употреба термин.

Днешният свят е буре с барут, само че дигитално. Всяка дума може да се превърне във фитил, особено ако е изречена от достатъчно важен човек. Дори собствениците на глобалните социални мрежи не са способни с алгоритмите си да спрат това, а понякога, логично е да го помислим, биха го провокирали сами.

„Е, как да не го е казал, като го видях?“

Това е следващата, по-опасна версия версия на „Пише го в интернет“. Няма значение, че в интернет нищо не пише, а е важно що за сайт е приютил даденото твърдение, що за автор го е написал и какви източници е използвал.

Да, онлайн продължават да се споделят какви ли не фалшиви новини, нелепи цитати, които очевидно не са изречени от човека, който се споменава. Но наистина, ако видите президента на велика държава да обявява на видео началото на следващата световна война, това не е ли доста по-убедително?

 

По заповед на кралицата

По традиция на 15 декември всяка година британската кралица се обръща към сънародниците си, подобно на обичайните у нас президентски речи за Нова година. В края на 2020-а обаче за първи път имаше не една, а две речи… на една и съща кралица. Поне донякъде. Защото от „Ченъл фор“ направиха тематично алтернативно приветствие с напълно измислени думи и дийпфейк версия на Елизабет II в главната роля:

 

„Толкова много от нашия свят днес идва при нас през тези телефонни екрани. Което ме връща към въпроса за доверието. Дали това, което виждаме и чуваме, е винаги такова, каквото изглежда?“

Това попита виртуалната кралица. Идеята отново беше да се привлече вниманието към опасността, която идва с напредъка на тази технология. Доста впечатляващо всъщност… Гарнирано със здравословна доза от добрия стар британски хумор за финал:

Стана ли добре? Мога ли вече да си сипя чаша чай?

 

Фалшименто

Всички си спомняме добре как бавно, но необратимо технологиите за обработка на изображения, обобщени като „Фотошоп“, промениха завинаги отношението ни към картинките. Сега ни остава да се шегуваме не особено доброжелателно онлайн с някоя фолкпевица, който се е престарала дотолкова с намесите, че е останала с по-малко пръсти или без пъп например. Заради това отдавна, виждайки едно изображение, имаме едно наум, че то невинаги показва истината. До такава степен, че после направо не можем да познаем, видим ли на живо някоя „префотошопена“ знаменитост.

С видеото обаче нещата стояха по друг начин. Да, голяма част от филмовите ефекти се създават изцяло изкуствено, но така и не изглеждаше възможно актьорът да бъде претворен с помощта на технологиите. Вече има игри, които дават по-реалистичен поглед от прозореца на самолета, дори от реалния, но все още човешките персонажи изглеждат доста сложни за реалистично възпроизвеждане.

Или поне изглеждаха, преди да се появи дийпфейк.

 

 

Бог високо, фейк дълбоко

Може би грубият превод на технологията е нещо като „дълбок, задълбочен фалшификат“. За първи път се заговори за нея през 2018 г. Макар че винаги я асоциираме с видеото, като цяло това е принцип, който използва изкуствения интелект в обработването на видео, аудио или снимки така, че да наподобява истинския човек.

Всъщност именно дийпфейк направи възможна появата на дигиталните хора. Основното ѝ предназначение е да създава визуални продукти, които не могат да бъдат отличени от човека. Тя е доста успешна конкретно във видеата, защото там като цяло резолюцията е по-ниска, детайлите са по-груби и е по-лесно да бъдат „замазани“ дребните несъвършенства. Това с досегашните технологии не беше особен плюс, защото те не успяваха с по-сериозното предизвикателство – убедителното претворяване на човешките черти, мимиките, плавните движения.

И така, можете да си създавате клипче, в което човек особено реалистично да прави това, което искате от него. Опитайте се да познаете в коя област по данни от 2019-а, са създадени 96% от видеата с тази технология?

Да, точно така. Става дума за по…

 

По-надълбоко

Не, не политиката. Порното. Да, това е следващото ниво на силиконовите кукли, сега можете с помощта на технологиите да видите и чуете любимата си звезда да казва колко ви желае. Но това е друга, не по-малко интересна тема, която заслужава отделно внимание, особено в психологическите ѝ аспекти.

Псе пак, докато сме на тази тема… Ако пък тази технология се окаже толкова добра, че дори за всеки политик, знаменитост, бизнес личност може да се създаде компрометиращ клип?

За момента дийпфейк се справя добре, когато става дума конкретно за лица и мимики. И това е заложено в технологичните принципи, по които работи.

 

Дълбоко погрешно

Името си технологията дължи на направлението deep learning или „дълбоко обучение“. Тя използва генеративно-състезателни невронни мрежи (на галено GAN). Това са алгоритми за машинно самообучение, които получават набор от информация и я обработват така, че да създават изцяло ново съдържание, спазвайки принципите, които са „уловили“. Те са в основата на много проекти, с които изкуственият интелект заплашва да остави без хляб журналистите, на тях се разчита и в опитите компютрите да създават изкуство.

При GAN паралелно работят два сегмента от софтуера, които обработват информацията. Първият се опитва да създава съдържание, максимално подобно на зададеното, а вторият – своеобразен зъл редактор, проверява дали може да открие разликите с реалните проекти и в повечето случаи „връща“ продукта обратно на „колегата“ си за доработка. Така до потребителя стигат само обработени кратки откъси, която са минали през доста строг филтър.

Очевидно тя все още има несъвършенства, които обаче могат да бъдат изглаждани. Всички мимики се генерират от невронната мрежа, така че нерядко те са неестествени. Създаденият глас е монотонен, липсва му емоция. Компютрите обаче имат и друг плюс – за разлика от актьорите, не се уморяват, а могат да генерират безкрай нови предложения, да се усъвършенстват и да дават още жокери на програмистите как да им помагат в това направление. Тоест, с повечко работа вече е напълно възможно да се създават наистина неотличими дийпфейк видеа.

 

Работата е дълбока

GAN е създаден през 2014 г. от Йън Гудфелоу, по това време студент в Станфордският университет. През следващите години той няколко пъти ще сменя работните си позиции между „Гугъл“ и проектите на Елън Мъск в областта на изкуствения интелект.

Не той обаче измисля дийпфейк като конкретното приложение на този тип технологии. През споменатата 2018-а в мрежата за споделяне на съдържание Reddit един потребител успява да събере огромна популярност. Създавайки порноклипове, в които особено реалистично заменя лицата на актрисите с тези на различни знаменитости.

За съжаление, профилът му бързо е закрит, но прякорът му оцелява. Да, точно така, той бил решил да се назове „Дийпфейк“.

После технологията става доста популярна за шегички, остроумни клипчета и друго (…май вече стана ясно какво).

 

 

Има немалко приложения, прилагащи дийпфейк, някои от тях са безплатни. Пробивът в тази посока направи отново през 2018-а FakeApp. Именно FakeApp и Adobe After Effects са използвани и за прословутото клипче на Барак Обама, с което започнахме.

А после… дийпфейк някак поизчезна като тема, други остроумия вървяха повече по време на сварилата по бели гащи всички ни изминала година. Примерът с британската кралица като че ли беше единственото по-интересно събитие по темата напоследък.

 

Дълбоката държава

Днес начело е DeepFaceLab, с който (по думите на създателите) се създават повече от 95% от дийпфейк видеата по света.

Както всяка друга технология, дийпфейк може да се използва за рязане или за порязване. Тя още е в началото на своята крива на развитие. Все още не е толкова позната, така и не се превърна в тренд, защото на пръв поглед не променя животи. Но на втори… приложенията ѝ далеч не се изчерпват с това да вземе хляба на треньорите от „Като две капки вода“.

Искате да видите отново Кларк Гейбъл, който обаче да играе в „Титаник“? Или Апостол Карамитев? Изкуството наистина може да бъде различно, когато GAN налучка съвършенството в имитацията. Или пък ви е писнало от истински актьори, можете да си „сглобите“ сами един по-съвършен, точно както си го представяте…

А после… се налага да се върнем на най-големите опасностите (не, не че Кларк Гейбъл няма как да потъне толкова зрелищно с мокър мустак).

В електронното буре с барут, каквото е днешната световна политика, наистина е нужно прекалено малко, за да избухне пожар, който да помете всичко. Напрежението – на междудържавно, етническо и какво ли не друго поле, може бързо да ескалира от една малка искра. До момента за такава най-често бихме заподозрели добрите стари фалшиви новини. И това вече се е случвало.

Но какво ще стане, когато към арсенала за манипулации се добави и достатъчно съвършената дийпфейк технология? Примера, с който започнахме, е само един, но всеки може да го допълни с въображението си. После идват възможностите за изнудване, манипулиране на хората. Ето защо е важно да сме подготвени.

 

 

Око да види

И да знаем на какво са способни вече невронните мрежи, които се крият зад изкуствения интелект. По време на американските избори за сенат миналата година дори се заговори за закони, контролиращи конкретно дийпфейк.

Интересното е, че заради всичко изброено в битката с фалшификатите могат да ни помогнат същите тези технологии, които ги създават.

„Гугъл“ например разработва проект, при който отново невронните мрежи са използвани за това да улавят разликите. „Аз съм те родил, аз ще те убия!“, казва добрият стар Тарас Булба. Заради принципа, на който работят GAN обаче, това има опасност да се превърне в едно безкрайно състезание. Тъй като втората част от невронната им мрежа е създадена така, че да „улавя“ несъвършенствата, преди те да стигнат до зрителя, то тя е в пряка конкуренция със софтуера, който би ги забелязал. Заформя се битка, в която победителят лесно ще се променя.

От своя страна Amazon организираха конкурс с внушителен награден фонд за технологии, които „ловят“ дийпфейк. Едно от изследователските звена Пентагона пък публикува алгоритъм, при който намесите във видеото се разпознават благодарение на… неестествените мигания.

Тази дигитална история може да доведе много аналогови проблеми. В наше време е много трудно да различиш фалшификата, независимо за какво става дума, абстрактното и виртуалното размиват границите. Но и реалността още е тук, за да ги задържа.

 

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист и писател. Още за мен – тук. .
Дигитални истории

Най-нови публикации:

„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато...

повече информация
Колко е IQ-то на ChatGPT?

Колко е IQ-то на ChatGPT?

Какви ли не хобита имат хората – някои колекционират марки, други – евро, трети дори имат търпението да гледат български футбол. Е, аз освен че имам навика да проверявам нищожните си познания в...

повече информация
„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Ние, възрастните, пожертвахме две поколения, защото създадохме нещо, което не знаехме какво е и как работи. Тези деца са жертва на нашата некомпетентност. Вече никой не може да каже, че не знаем до...

повече информация
„Питайте, хора! Питайте!“ 5 важни (неудобни) въпроса за незрящите

„Питайте, хора! Питайте!“ 5 важни (неудобни) въпроса за незрящите

Виктор Асенов не спира да тича, напред към поредния рекорд за покоряване. Ако ви е попаднала забележителната Дигитална история на незрящия бегач на дълги разстояния, надали ви е оставила безучастни....

повече информация

От рубриката:

Таралежите се раждат без ИИ

Таралежите се раждат без ИИ

В какъв свят ще живеят днешните деца?
Какво има смисъл да учат днес и кое би било загуба на време, усилия и пари?
Кога и как да ги срещнем с технологиите така, че да им помогнем да се опознаят, без някой да пострада?
А кога да ги „запознаем“ с изкуствения интелект?
Ще потърся отговорите на тези и други важни въпроси, свързани с децата и технологиите. Започва дълга поредица от детски Дигитални истории.
Ето защо според мен е жизненоважно да навлезем по-дълбоко в тези огромни теми:

повече информация
Как срещаме децата с технологиите? (Анкета)

Как срещаме децата с технологиите? (Анкета)

В какъв свят ще живеят децата ни? А как да ги срещнем с технологиите по най-добрия начин?
Имам две хлапета и този сайт го има, защото тези въпроси не ми дават мира. Докато има още толкова важни въпроси, на които е време да намерим отговор.
Нека ги обсъдим, а после да потърсим отговорите. Нека заедно нарисуваме картината на днешното дигитално родителство и погледа му към бъдещето.
Анкетата е насочена към родителите на деца от 0 до 11 години (а и към баби, дядовци, хора, които имат отношение към децата). Темите на тийнейжърите също са изключително важни, и за тях ще дойде моментът.
Анкетата е анонимна, можете да отговорите на въпросите, които си изберете. Можете да се включите и в жребий за награди – подбрани книги и фланелки с логото на Дигитални истории. Отговорите се събират до 28 февруари, а в началото на март очаквайте резултатите.
С тази анкета започва поредицата от важни Дигитални истории за децата и технологиите. Ще поговорим за майчинството и бащинството днес, за промените в образованието, за професиите на бъдещето. Поканил съм забележителни гости, от които всеки родител (включително и аз) има много какво да научи.
Благодаря от сърце за всяко попълване, за всяко споделяне!

повече информация
ЕИ + ИИ. Рамо до рамо, неврон до неврон

ЕИ + ИИ. Рамо до рамо, неврон до неврон

Докато се замерваме с клишета и спорим онлайн дали изкуственият интелект ще ни пороби, ще ни остави без работа или ще изчезне, затиснат от огромните очаквания… аз поне съм сигурен, че няма да направи нито едно от нещата в списъка. Но ще направи по малко и от трите.
Технологията, с идването на ChatGPT, вече 2 години е във фокуса на обществения интерес, на ежедневните разговори и на клишетата. Вече е ясно, че тя е тук…, а ние още не сме решили как да е посрещнем. В икономиката, в живота си, в погледа си към света. А и към самите нас. Към ежедневието ни, към труда ни. Към изкуството. Към всичко онова, което ни прави хора. И което може да ни прави по-добри и щастливи хора.
Единственият разумен подход оттук нататък е да се научим да работим заедно. Как да продължим да развиваме ИИ технологиите пълноценно, но и разумно. Обсъждайки, търсейки всеки важен аспект в различните областите на познанието.

повече информация

Най-новите:

„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Елица Стоилова казва, че дигиталната грамотност би трябвало да се превърне в национална цел, ако искаме да вървим напред. „Липсата ѝ води до страх от технологиите = консерватизъм в тяхното въвеждане и използване = изоставане на нацията ни в множество посоки. Какво е бъдещето на неграмотните народи?“, написа ми тя.
Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато накрая акостира в ИТ света. Разбира, че голяма част от задачите в туризма успешно могат да се изпълняват от алгоритми, тъй като са повторяеми. Така създава чатбот платформата UMNI, много преди друг един чатбот да привлече погледите на света към това колко е напреднал изкуственият интелект.
Но как така… тя е толкова оптимистично настроена за пътя напред? Гостенката ни смята, че ако правилно изиграем картите си, ИИ ни води към едно прекрасно бъдеще. От какво зависи дали ще изиграем картите си както трябва? И защо понякога си струва дори да изоставиш едно от най-райските кътчета на планетата, преследвайки мечтите? Търсим важни и неочаквани отговори в следващите редове.

повече информация
Колко е IQ-то на ChatGPT?

Колко е IQ-то на ChatGPT?

Какъв е коефициентът на интелигентност на напредналия изкуствения интелект?
Достига ли, надминава ли средните 100 точки на днешното човечество? И защо това е важно?
Хайде да научим заедно!

повече информация
„Последният печели“. ChatGPT отвръща на удара!

„Последният печели“. ChatGPT отвръща на удара!

Из въздуха витае интелигентност, в залата са малко над 100 души, повечето от тях са сред най-интелигентните в нашата страна. Не е предположение, мога да го докажа. Те са сред победителите в „Последният печели“ – телевизионното състезание, което през последните години припомня защо знанието е важно за всички ни, дори като вид, във времената на напредналия изкуствен интелект.
С моите съмишленици в залата имаме важна задача. Да се изправим заедно срещу ИИ в едно състезание, което може да ни каже и покаже много.
Ще победи ли с днешните си невероятни умения изкуственият интелект едни от най-знаещите представители на естествения? Време е да проверим. И да научим нещо ново…
ChatGPT срещу някои от най-интелигентните българи в състезание по познание. Кой ще победи? Изгубихме ли окончателно и тази битка срещу машините? Ръкавицата е хвърлена!

повече информация
„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Пожертвахме две поколения, защото не знаехме как работят технологиите“

„Ние, възрастните, пожертвахме две поколения, защото създадохме нещо, което не знаехме какво е и как работи. Тези деца са жертва на нашата некомпетентност. Вече никой не може да каже, че не знаем до какво води прекомерната употреба на дигитални устройства за развитието на емоционално-интелектуалния апарат на децата.“
Но какви точно са тези щети и защо са толкова важни? Как прекомерното излагане на технологии променя необратимо децата? И какво да правим, след като го знаем?
Слави Стоев е психолог, води обучения за лидерство и мениджърски умения, водещ е на подкаста „Естествен ѝнтелект“. В същото време е и баща, и автор на детски книжки, посветени на ранното развитие и емоционалната интелигентност.
Точният гост, с когото да потърсим има ли среден път в отношението на родителите към технологиите и как можем да го намерим. Ще поговорим за базовите умения, които днес не успяваме да развием, и упадъка, към който се е насочила цивилизацията ни. Ако бързо не вземем целенасочени мерки, свързани именно с пресечната точка между технологиите и децата.

повече информация
„Питайте, хора! Питайте!“ 5 важни (неудобни) въпроса за незрящите

„Питайте, хора! Питайте!“ 5 важни (неудобни) въпроса за незрящите

Виктор Асенов не спира да тича, напред към поредния рекорд за покоряване. Ако ви е попаднала забележителната Дигитална история на незрящия бегач на дълги разстояния, надали ви е оставила безучастни. Защото поуките от нея са много, а тя е повод и да продължим разговора с Виктор. За ежедневните неволи на българите със зрителни (и други) увреждания. За това как да се отнасяме с тях, дали сме достатъчно внимателни, дали в България се грижим за правата им.
Последният въпрос е риторичен. Сигурен съм, забелязвали сте и вие, че автобусите в София са пригодени за хора с увреждания. Виждали ли сте обаче някой да се качи в тях с инвалидната си количка? Ами сайтовете? Днес всичко се случва онлайн, технологиите улесняват всички ни и могат да бъдат толкова полезни и за хората, които най-много се нуждаят от тях.
Обаче не са. Как това може да се промени? С Виктор поговорихме и обобщихме 5 конкретни идеи. Поне за мен всяка от тях е повод за замисляне, така че и сам да се чувствам полезен. Дано и за вас е така…

повече информация
Къде оставихме ролята на бащата?

Къде оставихме ролята на бащата?

„БГ мама“ отдавна е нарицателно. А къде отиде… БГ татко? Защо толкова малко си говорим за ролята на бащата днес? Каква е тя всъщност? Как се е променила в епохата на технологиите? Можем ли да се подготвим за бащинството и кои са големите днешни предизвикателства в огромната отговорност да бъдеш татко?
Михаил Стефанов не само е баща, но и умее да говори за тази роля. Магистър по организационна антропология от Виена и София, създател на безброй он- и офлайн курсове за отношенията между хората, за продуктивността, за ефективността на екипите.
„Най-вероятно това е един от ефектите на модерността и постмодерността – разкъсването на връзки от всякакъв характер. Затова един от най-популярните жанрове литература е да намериш себе си. Бащата има ключова роля тук, той ти дава това кой си. Той не ти дава смисъл, да ти го обясни, но ти го показва. Той го обживява, а ти го виждаш…“
Продължава поредицата „Дигитални деца“. Търся важните гледни точки и полезните съвети, които да ни помогнат като родители и възрастни. 

повече информация
Share This