Ловецът на фалшиви новини

ное. 16, 2021 | Истории

Ловецът на фалшиви новини

16 ноември 2021 | Истории

Той е способен да „надуши“ фалшивите новини по-добре от хрътка. Нещо повече, може да каже, че те ще се появят… дори преди да са написани. Какъв е този ловец телепат? Вероятно сте се досетили, той просто не е човек, а алгоритъм. Не е идея, а вече сериозно навлиза в практиката. И не просто заклеймява дезинформацията и цензурира, а помага на хората да я улавят сами.

В проекта участва Масачузетският технологичен институт, но той се води от Катарския институт за компютърни изследвания. Екипът разработчици е воден от българин.

Преслав Наков е начело на изследователите, той е създателят на проекта „Танбих“ (срещнете го тук), арабската дума, значеща „сигнал за тревога“. Специалността му е обработката на естествен език (Natural language processing или NLP), много класации го поставят сред топ учените в направлението в световен план. Благодарение на тази област, където изкуственият интелект среща лингвистиката, вече имаме сериозни технологични придобивки, като например развития машинен превод. Д-р Наков обаче е концентрирал изследванията си именно в използването на тази изключително перспективна технология в една битка, която иначе изглежда окончателно изгубена. Битката за истината.

 

„Танбих“

 

И ловец съм, и рибар съм

Как да разберете, че сте неразбран гений? Гений сте и не ви разбират.

Какво е фалшивата новина? Новина, само че фалшива.

Не, не сме се събрали, за да създаваме мемове и шегички, а за да видим как се справя този ловец – алгоритъм. Какво прави, как работи.

Проблемът с фалшивите новини наистина започва от дефиницията. Дали ако журналистът сбърка дадено число в информацията си, това прави новината фалшива? Или пък трябва да има умисъл? Или има проблем, ако фактите се преплитат с интерпретациите?

Темата е стара, колкото е стара втората най-древна професия – журналистиката. И все пак, днес е по-важна от всякога, защото живеем в информационно общество. Заради балона на филтрите и факта, че сериозно се променя начинът, по който въприемаме информацията. Днес фалшивите новини са по-опасно оръжие, отколкото можем да си представим. Вече го няма авторитета на сериозните медии, всеки може да каже всичко и да стои на равна нога с безспорните авторитети по темата. Достатъчно е за пример да споменем информационното пространство, свързано с коронавируса.

 

Горящ вестник

Снимка: Pezibear от Pixabay

 

Наслука

„Да, невярната информация в новините винаги е била наоколо, помислете за таблоидите“, казва Наков. „Но социалните мрежи промениха всичко. Те направиха възможно зловредните източници да микротаргетират целите си по демографски показатели. Да разпространяват информацията много по-бързо и в огромни обеми. Благодарение на социалните мрежи новините могат да се превърнат в оръжие с безпрецедентни мащаби“.

Фалшивите новини имаха сериозно значение в последните два избора за президент на САЩ, често с тяхна помощ се вземат сериозни политически решения.

Проблемът доби нови измерения, след като дойде коронавирусът. Световната здравна организация още през февруари постави на второ място сред най-важните стъпки, за да стигнем до края на пандемията, битката с „инфодемията“.

Факт е, че в тази посока сериозно значение имаше и не винаги достатъчно адекватната информационна политика на властите и на експертите. И все пак, надали дори от СЗО биха могли да си представят, че начинът, по който се отразява пандемията в мрежата, ще доведе дотам, че когато всеки може да има ваксина, над 70% от българите няма да счетат за нужно да си я поставят.

 

Преслав Наков, „Танбих“

Снимка: Gerd Altmann, Pixabay

 

С пушка в ръка аз бродя през гората

Преди няколко години нашумяха услугите, които проверяваха достоверността на даден факт. И те са полезни. В крайна сметка, не е толкова трудно да се сравнят данните от достатъчно авторитетни източници с новината, че например някоя световна знаменитост се е разболяла от ишиас. Или че даден футболен отбор е победител друг.

Но това е елементарно. Да не говорим, че всеки от нас е редно да го прави. Да се замисли, преди да сподели заглавие, което му е прозвучало интригуващо, да отвори по-сериозен сайт, за да го провери, особено ако линкът е от очевидно съмнителен домейн.

Постепенно с това свикнахме. Разбира се, случва се всеки да се подведе, а много често в подобна ситуация изпадат по-възрастните хора, които все още имат друго отношение към информацията – щом е написано, значи е вярно. Сигурно знаете вица. „Колко да лети, дядо, най-много 2-3 метра…“

 

Ловна среща

И така, в основата на работата на нашия електронен ловец, арабският Шерлок Холмс, стоят дефинициите.

„Големият проблем не е, че фалшивите новини са неверни“, казва Преслав Наков. „А че те се превръщат в оръжие. А това е нещото, от което най-много се тревожи дори самият учен, направил възможен интернет – сър Тим Бърнърс-Лий“.

За много хора фалшивите новини са просто тези, които не им харесват, без въобще да ги интересува дали са верни, или не. Затова, според Преслав Наков по-подходящият термин в случая е „дезинформация“. „Тук вече дефиницията е доста проста, има само два компонента. Първият – че една информация не отговаря на истината и вторият: че има зловредна цел, предназначена е да навреди по някакъв начин. Повечето разработки по темата се концентрират само върху първата част от проблема. А по-важна е втората, именно нея има предвид Бърнърс-Лий, говорейки за превръщането на новините в оръжие. Основният проблем с фалшивите новини, както ще се съгласят и журналистите, не е, че те не съобщават вярна информация. Проблемът е, че те стават политическо оръжие“, допълва изследователят.

 

Преслав Наков, „Танбих“

Снимка: Jacek Dylag, Unsplash

 

Пропа-гадна

Често наричаме явлението „пропаганда“, а според нашия събеседник това не е основателно. „Пропагандата се пресича с дезинформацията. Тя също има два компонента, първият е, че някой цели да ни убеди в нещо, а вторият: че има предварително дефинирана цел. И се пак, при нея няма истина или лъжа, няма добро или лошо. Пропаганда е и кампанията на правителството за ваксинации, и думите на Грета Тунберг, която се старае да ни плаши, че стотици биологични видове изчезват всеки ден. Това е една от техниките на пропагандата – целенасочено предизвикване на страх. Само че в случая не бихме сметнали, че е проблем. Пропагандата не е нещо добро или лошо, тя е просто сбор от техники, целящи да убеждават“, допълва Наков.

Именно тези техники се учи да разпознава алгоритъмът за машинно самообучение „Танбих“. Като ги наслагва с всичко останало. И в резултат не търси крайното бинарно решение „вярно/невярно“, а просто информира потребителя за рисковете и нюансите, оставяйки му решението сам да прецени как да се възползва от информацията.

„Танбих“ анализира езика. Проверява как източникът на информацията се съотнася към новините, които публикува: съдържа ли доказано достоверни и доказано фалшиви. Ако често се цитират неверни твърдения, това е доста ясен знак, че и бъдещите публикации на тази медия отиват в същата посока.

Съществуват повече от 60 пропагандни техники, а „Танбих“ се концентрира върху 18 от тях, които са най-разпространени и най-ефективни днес.

 

Ловец храбрец

Битката с фалшивите новини е неравна, защото, както показва проучване на MIT, те се разпространяват 6 пъти по-бързо от истинските. Те са по-атрактивни, подготвени са така, че да бъдат харесвани. Освен това онлайн нещата се случват светкавично: 50% от разпространението им е през първите 10 минути! Как е възможно за това време да се направи проверка дали новината е вярна?

Това могат да го правят само потребителите. Които, в случая, да бъдат подпомогнати от възможностите на изкуствения интелект.

Лесно е да се провери дали е вярно едно изречение. Дори да бъде аналитично, това също може лесно да се отрази. Но, както казва нашият събеседник, в президентския дебат в САЩ например, се казват около 1000 изречения. Също и в една по-дълга и аналитична статия. Как може да се провери всяко съждение? Единственият шанс е с помощта на изкуствения интелект. Алгоритмите, особено в областта на езиковия анализ (и, за съжаление, най-вече на разпространените езици) имат невероятни умения, показателен е примерът с GPT-3. „Танбих“ взема най-доброто от тази област, за да анализира за читателя дългите текстове и да даде своята независима оценка. Какво ще прави с нея въпросният читател, е негова работа. Но така и би трябвало да бъде, доста различно например от света на „Фейсбук“.

 

Преслав Наков, „Танбих“

Снимка: Here and now, Pixabay

 

На пусия

Дяволът е в детайлите. Във внушенията. И най-вече в случаите, когато лъжата е целенасочена, масирана, има конкретна пропагандна цел и носи определени ползи на източника.

Както казва д-р Наков, многото проекти за проверка на факти – ръчни или автоматизирани, не могат да решат проблема, защото в момента, в който можем да докажем, че една новина е невярна, тя вече ще е достигнала до милиони хора и няма как да бъде спряна. Именно затова ученият насочва усилията си към технологията, която може да предсказва фалшивата новина.

Всички знаем, че дори „Фейсбук“, въпреки дългогодишните си усилия, така и не успява да намери достатъчно работещо решение в тази посока. Огромният обем информация в социалната мрежа няма как да бъде следен автоматично, а заради системата на докладване на публикациите често жертва на цензурата падат текстове, с които просто някой не е съгласен. Но това не ги прави фалшиви, особено в среда, в която уж се търсят мнения и гледни точки, а не новинарско съдържание (като преплитането между двете е в основата на най-големите проблеми в тази област).

Ако е доказано, че даден сайт, профил или какъвто и да било източник вече е създал фалшива новина, със сигурност е редно да сме по-мнителни. Именно в тази посока помага алгоритъмът на „Танбих“. Идеята е да предсказва. Като не цензурира, а просто помага на потребителите. Дава им основни показатели за това колко е достоверен източникът, оцветен ли е емоционално по темата, за която пише. Например политически.

 

Фалшива новина по ловджийски

Единственият шанс да изградим по-добра интернет среда, е като спираме пропагандата и фалшивите новини, преди да са се разпространили, убеден е проф. Наков. И първата стъпка е верифицирането и отделянето на достоверните източници на информация.

Няма как да провериш всяко отделно твърдение на света. И все пак, по този начин можеш да провериш една новина, преди дори да е написана“.

Реалният проблем е, че когато се появят натрупвания, внушения, когато не само лъжата има значение, а и си личи кой има полза от нея. Точно това цели да улавя алгоритъмът „Танбих“.

За момента той работи на арабски и английски, покрива публикации, свързани с политика, бизнес, спорт, наука, технологии… и конкретно ковид.

 

Преслав Наков, „Танбих“

Снимка: Ed Rojas, Unsplash

 

Ловци на градус

„Танбих“ умее да оценява общата достоверност на фактите в текста, градуса на пропагандното съдържание, наличието на крайни политически оттенъци, идеологии. Оценява новината в общата рамка на останалите. Анализира отделните информационни единици, но още по-добре анализира източниците на информация.

Историята на този изкуствен интелект започва като обикновена система за персонализирано филтриране на новините, подобна на „Гугъл Нюз“. После създателите му решават да го разширят с основната идея – не просто да събира новини, а и да ги обогатяват с информация за съдържанието на текста, за основните характеристики на автора и медията, от които идва. Полезно е да знаеш дали източникът има ясно изразена политическа връзка, ако е виден анти- или проваксър. И най-вече: винаги, когато е екстремно предубеден към дадена тема.

 

100 шарана… и една червена херинга

А както стана дума, специалитетът му е да разпознава техниките на пропагандата. Предизвикването на страх е само една от тях. Като цяло, се делят на две групи, а първата разчита на емоциите. Може да става дума за страх, за патриотични чувства, за съчувствие. Втората част са по-скоро логически парадигми. Например „или си с нас, или си срещу нас“. Класическа техника е „Ефектът на бандата“, когато ни убеждават, че някой ще победи на изборите с огромен процент и ние трябва да се почувстваме от правилната страна на историята, като се присъединим.

„Червената херинга“ е още една техника за пропаганда, дължи красноватото си име на Уилям Корбет, който го популяризира през 1807 г. На български я наричаме с доста по-скучното название „отвличане на вниманието“. А чуем ли „червена херинга“, някак си се замисляме, ама има ли я наистина тази риба? Извън шарения термин, този пропаганден подход го знаем от българските медии и политици до болка добре.

 

Преслав Наков, „Танбих“

Снимка: Ron Porter, Pixabay

 

На мушката

„Умишлено замъгляване“ е друг подход на пропагандата. При него комуникацията нарочно е замъглена, говори се на целенасочено усложнен език, с морфични резонанси, както бихме казали у нас.

„Танбих“ е научен да разпознава всички тези и останалите класически техники, като успоредно с това анализира и оценъчната страна на текста.

Ех, ако всички бяхме малко повече като „Танбих“.

Скоро, надяваме се, ще го имаме и на български. Поне за да ни светва лампичката. А дали не е доста късно за лампички и има ли кой да ги гледа в тотално мрачна медийна среда като българската… кой знае, ще видим.

Има защо да сме отчаяни от естествения интелект, особено що се отнася до политиката и медиите по нашите ширини, нека дадем шанс на изкуствения.

 

Ловецът на хвърчила

„Аз продължавам да смятам, че медийната грамотност е най-доброто дългосрочно решение за това как се информираме“, казва изследователят. „Затова и съм горд с инструмента, който създадохме. Той успява да улови фините техники на пропагандата и да информира читателите, че са манипулирани. Така те знаят как да подходят към тези източници на информация, а и какво да избягват занапред. В един момент даже няма да им трябва платформата, ще разпознават техниките сами. Същото се случи и с мен, а и с други учени, работещи по проекта“, допълва Преслав Наков.

„Вече не мога да чета спокойно новините. Всеки път, когато ги отворя, започвам да разпознавам една по една техниките на пропагандата. Вярвам, че ще е много добре, ако повече хора стигнат до този етап.“

А ние се разделяме с новия ИИ и със създателя му, но с уговорката, че скоро ще се срещнем отново, за да направим интервю. Да поговорим и за други теми, свързани с най-важните и бързо напредващи посоки, в които алгоритмите се очаква да променят света ни. За прословутия изкуствен интелект, когото сме натоварили с толкова много (често пресилени) очаквания да промени живота ни в толкова много посоки.

А вие: какво бихте го попитали?

 

Преслав Наков

Снимка: Владимир Мачоков

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист на свободна практика и писател. Още за мен – четете тук.

Най-нови публикации:

„Днес дори разумните аргументи не убеждават“

„Днес дори разумните аргументи не убеждават“

Светослав Иванов е знаков журналист, репортер и водещ, защото търси не само актуалното, но и смисленото, дълбокото. Историите, които могат да вълнуват, които показват, че и правенето на телевизия...

повече информация
„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

Алгоритмите за генериране на изображение по описание са хит през последните месеци. Те са изумителен пример за това на какво е способен вече ИИ. Започна се с DALL·E, последваха безброй други модели,...

повече информация
„Сега е важно държавата и обществото да подкрепят INSAIT“

„Сега е важно държавата и обществото да подкрепят INSAIT“

INSAIT е най-добрата новина за българския айти свят, а и за целия образователен сектор от десетилетия. Като че ли от нищото в София в началото на 2022-а се появи модерен център, уникален за целия...

повече информация
Dronamics. „Мечтите трябва да са амбициозни!“

Dronamics. „Мечтите трябва да са амбициозни!“

Историята на двамата братя и черния лебед звучи като приказка. И е приказка, само че от дигиталните времена. Някак по български, започва с разговора как да се изпрати в чужбина една тенекия сирене…...

повече информация
Експеримент: може ли ИИ да пише вместо нас?

Експеримент: може ли ИИ да пише вместо нас?

Много Дигитални истории звучат като научна фантастика, а вече се случват пред очите ни. В други случаи големите надежди, които възлагаме на дадена технология, не се оказват оправдани. И някой, който...

повече информация
Идва GPT-4, който обещава да промени всичко

Идва GPT-4, който обещава да промени всичко

Надали има в света на прословутия изкуствен интелект алгоритъм, по-прочут от GPT-3. Тук можете да прочетете подробно как и защо решението на OpenAI се оказа сериозен пробив в редица области. Той се...

повече информация

От рубриката:

Славяни от всички страни, усмихнете се!

Славяни от всички страни, усмихнете се!

Страницата Squatting Slavs in Tracksuits е едно от най-приятно смешните неща, които може да си причините онлайн. Място, където всеки, свързан по някакъв начин с Балканите, с Източна Европа и славянския свят, няма как да не се усмихне. Защото с фино и приятно чувство за хумор мемовете улавят познати и дълбоко вкопани у всеки от нас чудеса на Изтока. Топло, добродушно, незлобливо и с приятна самоирония.
Може би и вие сте сред онези 1,2 милиона последователи на начинанието във фейсбук? Ако не, със сигурност си струва да надникнете.
Какви ли хора стоят зад тази страница? Какво според тях успява толкова успешно да разсмее гостите от иначе толкова различните държави на Източния блок? Защо мутрите от 90-те, грижовните „бабушки“, пиететът към „Адидас“ и шантавите нискобюджетни решения на злободневни проблеми могат да се превърнат във вирални мемета? Как да обясним всичко това на човек от Запада?

повече информация
„Стража“, младите и демокрацията

„Стража“, младите и демокрацията

Strazha.bg е смислено начинание на млади хора, необременени от предразсъдъци. Само за година платформата привлече сериозен интерес и дава все повече възможности. Които да ни напомнят, че политиката не са само хората от телевизора, а сме всички ние.
Благодарение на проекта можем да видим какво е казал и как е гласувал във всеки момент човекът, когото сами сме изпратили (или смятаме да изпратим) в Народното събрание. Да проверим държи ли си на думата, заслужава ли доверие. Можем да търсим сред огромната база плащания, направени от всички държавни институции през последните 16 години.
„Демокрацията не е само лозунг!“, гласи мотото на това начинание. От всички нас зависи не само нейното съществуване, но и това колко ефективно функционира. И ето че имаме едно ценно оръжие, с което всеки може да я осъществява на практика.
Срещаме се със създателя на платформата Благослав Михайлов, за да поговорим за смисъла на демокрацията, за погледа на младите. Да потърсим какво ни е нужно, за да изградим смислена и компетентна политическа класа.

повече информация
„Вояджър“, Дельо и безсмъртното човечество

„Вояджър“, Дельо и безсмъртното човечество

Ако срещнете извънземен, как ще му представите днешното човечество?
Историята на проекта „Вояджър“ е невероятна. Става дума за първия и последен мащабен опит нашата цивилизация да се представи сама. Да събере всичко най-важно, което я характеризира, за да го покаже във форма, която може да бъде разчетена от други видове. При това с технологии, които днес, почти половин век по-късно, ни се струват примитивни.
Всичко знаем за космическата песен на Валя Балканска, но какво друго сте чували за историята на „Вояджър“, космическия пътешественик, който се рее сред звездите и може да е последният свидетел за съществуването на човечеството? Как ли се очаква извънземните да разберат какво имаме да им съобщим? Излитаме!

повече информация

Най-новите:

„Днес дори разумните аргументи не убеждават“

„Днес дори разумните аргументи не убеждават“

Светослав Иванов е знаков журналист, репортер и водещ, защото търси не само актуалното, но и смисленото, дълбокото. Историите, които могат да вълнуват, които показват, че и правенето на телевизия все още може да бъде изкуство.
Какво ли би попитал той своя събеседник, ако насреща му стои съвършен изкуствен интелект? Кои са най-големите опасности, които носят за обществото този тип технологии? Защо хората на различно мнение днес често се оказват в „онлайн затвор“? Ще успеем ли да създадем алгоритъм, който да разказва трогателни истории като Иво Иванов?

повече информация
„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

„Понякога ще идвам…“ Как ИИ нарисува 10 класически стиха?

Какви ли илюстрации може да нарисува изкуственият интелект по произведенията на Ботев, Дебелянов, Борис Христов, Георги Господинов?
Как ли ще разтълкуват алгоритмите за генериране на изображение класически цитати от българската литература?
Този тип ИИ е хит през последните месеци, той е изумителен пример за това на какво са способни вече технологиите. Заради него се появи новото умение да се описват правилно изображенията, така че съответният алгоритъм да генерира точно това, което се очаква. А какво ли ще се случи, когато го „захраним“ със строфите на доказани майстори?
Ето прелюбопитните резултати!

повече информация
„Сега е важно държавата и обществото да подкрепят INSAIT“

„Сега е важно държавата и обществото да подкрепят INSAIT“

INSAIT е най-добрата новина за българския айти свят, а и за целия образователен сектор от десетилетия. Като че ли от нищото в София в началото на 2022-а се появи модерен институт, уникален за региона.
Начинанието се ражда благодарение на упоритите усилия на проф. Мартин Вечев. Идеята му идва през 2003 г., докато кандидатства за докторантура в Кеймбридж и на поредната бланка трябва да попълни какво мечтае да постигне през следващите 20 години.
Но как се случи тази тиха научна революция? Какви са най-големите рискове пред начинанието? Как ще изглежда България, ако проектът се развие според очакванията? За какво мечтае неговият създател?
Как проф. Вечев успя да доведе тази седмица в София някои от световните учени, които създават утрешния ден?

повече информация
Dronamics. „Мечтите трябва да са амбициозни!“

Dronamics. „Мечтите трябва да са амбициозни!“

Историята на двамата братя и черния лебед е приказка, само че от дигиталните времена. Започва с разговора как да се изпрати в чужбина една тенекия сирене… а днес Dronamics е може би най-обещаващият и самобитен български стартъп, който носи в себе си огромния потенциал да промени цялата транспортна индустрия.
Двамата братя са изпреварили с години състезатели като Amazon и DHL, до края на 2022-а прототипният им дрон – „Черният лебед“, ще полети на първия си търговски полет. Той носи товар от 350 килограма на 2500 километра със скорост почти 200 км/ч и разход на гориво… под 7 на 100.
„Летяща баничарка“ го нарича Свилен Рангелов. Срещаме се, за да ни разкаже пъстрата история дотук. Как проект, започнал у нас, води с няколко години пред Amazon? Как ще изглежда невероятното бъдеще на транспортната индустрия, ако „Черният лебед“ прелети успешно и последните стъпки от дългия си път към успеха? Защо ли двамата братя от 8 години не се бръснат и си струва… всички да стискаме палци най-накрая да ги видим без бради?

повече информация
Експеримент: може ли ИИ да пише вместо нас?

Експеримент: може ли ИИ да пише вместо нас?

Безспорно всеки ден вече четем текстове, генерирани от алгоритъм. Как става това на практика?
Има ли програми, базирани на изкуствен интелект, готови да вземат хляба на хората, които работят със слово?
Репортери, редактори, коректори, копирайтъри, дигитални маркетолози, писатели, преводачи… кои от всички тях най-скоро могат да бъдат „заместени“?
Срещам се с няколко от най-популярните приложения за генериране и обработка на текст. Ето какво имат да покажат те.

повече информация
Идва GPT-4, който обещава да промени всичко

Идва GPT-4, който обещава да промени всичко

Надали има в света на прословутия изкуствен интелект алгоритъм, по-прочут от GPT-3. Той показа, че ИИ е способен на чудеса в толкова много области. И ето че идва следващото поколение. Макар и забавил се спрямо първоначалните очаквания, GPT-4 се очаква да бъде представен съвсем скоро.
Дали от него можем да получим дори много повече? С какво се различава от предшественика си? Кои са областите, в които очакваме да донесе чудеса?

повече информация
Share This