Ловецът на фалшиви новини

ное. 16, 2021 | Истории

Ловецът на фалшиви новини

16 ноември 2021 | Истории

Той е способен да „надуши“ фалшивите новини по-добре от хрътка. Нещо повече, може да каже, че те ще се появят… дори преди да са написани. Какъв е този ловец телепат? Вероятно сте се досетили, той просто не е човек, а алгоритъм. Не е идея, а вече сериозно навлиза в практиката. И не просто заклеймява дезинформацията и цензурира, а помага на хората да я улавят сами.

В проекта участва Масачузетският технологичен институт, но той се води от Катарския институт за компютърни изследвания. Екипът разработчици е воден от българин.

Преслав Наков е начело на изследователите, той е създателят на проекта „Танбих“ (срещнете го тук), арабската дума, значеща „сигнал за тревога“. Специалността му е обработката на естествен език (Natural language processing или NLP), много класации го поставят сред топ учените в направлението в световен план. Благодарение на тази област, където изкуственият интелект среща лингвистиката, вече имаме сериозни технологични придобивки, като например развития машинен превод. Д-р Наков обаче е концентрирал изследванията си именно в използването на тази изключително перспективна технология в една битка, която иначе изглежда окончателно изгубена. Битката за истината.

 

„Танбих“

 

И ловец съм, и рибар съм

Как да разберете, че сте неразбран гений? Гений сте и не ви разбират.

Какво е фалшивата новина? Новина, само че фалшива.

Не, не сме се събрали, за да създаваме мемове и шегички, а за да видим как се справя този ловец – алгоритъм. Какво прави, как работи.

Проблемът с фалшивите новини наистина започва от дефиницията. Дали ако журналистът сбърка дадено число в информацията си, това прави новината фалшива? Или пък трябва да има умисъл? Или има проблем, ако фактите се преплитат с интерпретациите?

Темата е стара, колкото е стара втората най-древна професия – журналистиката. И все пак, днес е по-важна от всякога, защото живеем в информационно общество. Заради балона на филтрите и факта, че сериозно се променя начинът, по който въприемаме информацията. Днес фалшивите новини са по-опасно оръжие, отколкото можем да си представим. Вече го няма авторитета на сериозните медии, всеки може да каже всичко и да стои на равна нога с безспорните авторитети по темата. Достатъчно е за пример да споменем информационното пространство, свързано с коронавируса.

 

Горящ вестник

Снимка: Pezibear от Pixabay

 

Наслука

„Да, невярната информация в новините винаги е била наоколо, помислете за таблоидите“, казва Наков. „Но социалните мрежи промениха всичко. Те направиха възможно зловредните източници да микротаргетират целите си по демографски показатели. Да разпространяват информацията много по-бързо и в огромни обеми. Благодарение на социалните мрежи новините могат да се превърнат в оръжие с безпрецедентни мащаби“.

Фалшивите новини имаха сериозно значение в последните два избора за президент на САЩ, често с тяхна помощ се вземат сериозни политически решения.

Проблемът доби нови измерения, след като дойде коронавирусът. Световната здравна организация още през февруари постави на второ място сред най-важните стъпки, за да стигнем до края на пандемията, битката с „инфодемията“.

Факт е, че в тази посока сериозно значение имаше и не винаги достатъчно адекватната информационна политика на властите и на експертите. И все пак, надали дори от СЗО биха могли да си представят, че начинът, по който се отразява пандемията в мрежата, ще доведе дотам, че когато всеки може да има ваксина, над 70% от българите няма да счетат за нужно да си я поставят.

 

Преслав Наков, „Танбих“

Снимка: Gerd Altmann, Pixabay

 

С пушка в ръка аз бродя през гората

Преди няколко години нашумяха услугите, които проверяваха достоверността на даден факт. И те са полезни. В крайна сметка, не е толкова трудно да се сравнят данните от достатъчно авторитетни източници с новината, че например някоя световна знаменитост се е разболяла от ишиас. Или че даден футболен отбор е победител друг.

Но това е елементарно. Да не говорим, че всеки от нас е редно да го прави. Да се замисли, преди да сподели заглавие, което му е прозвучало интригуващо, да отвори по-сериозен сайт, за да го провери, особено ако линкът е от очевидно съмнителен домейн.

Постепенно с това свикнахме. Разбира се, случва се всеки да се подведе, а много често в подобна ситуация изпадат по-възрастните хора, които все още имат друго отношение към информацията – щом е написано, значи е вярно. Сигурно знаете вица. „Колко да лети, дядо, най-много 2-3 метра…“

 

Ловна среща

И така, в основата на работата на нашия електронен ловец, арабският Шерлок Холмс, стоят дефинициите.

„Големият проблем не е, че фалшивите новини са неверни“, казва Преслав Наков. „А че те се превръщат в оръжие. А това е нещото, от което най-много се тревожи дори самият учен, направил възможен интернет – сър Тим Бърнърс-Лий“.

За много хора фалшивите новини са просто тези, които не им харесват, без въобще да ги интересува дали са верни, или не. Затова, според Преслав Наков по-подходящият термин в случая е „дезинформация“. „Тук вече дефиницията е доста проста, има само два компонента. Първият – че една информация не отговаря на истината и вторият: че има зловредна цел, предназначена е да навреди по някакъв начин. Повечето разработки по темата се концентрират само върху първата част от проблема. А по-важна е втората, именно нея има предвид Бърнърс-Лий, говорейки за превръщането на новините в оръжие. Основният проблем с фалшивите новини, както ще се съгласят и журналистите, не е, че те не съобщават вярна информация. Проблемът е, че те стават политическо оръжие“, допълва изследователят.

 

Преслав Наков, „Танбих“

Снимка: Jacek Dylag, Unsplash

 

Пропа-гадна

Често наричаме явлението „пропаганда“, а според нашия събеседник това не е основателно. „Пропагандата се пресича с дезинформацията. Тя също има два компонента, първият е, че някой цели да ни убеди в нещо, а вторият: че има предварително дефинирана цел. И се пак, при нея няма истина или лъжа, няма добро или лошо. Пропаганда е и кампанията на правителството за ваксинации, и думите на Грета Тунберг, която се старае да ни плаши, че стотици биологични видове изчезват всеки ден. Това е една от техниките на пропагандата – целенасочено предизвикване на страх. Само че в случая не бихме сметнали, че е проблем. Пропагандата не е нещо добро или лошо, тя е просто сбор от техники, целящи да убеждават“, допълва Наков.

Именно тези техники се учи да разпознава алгоритъмът за машинно самообучение „Танбих“. Като ги наслагва с всичко останало. И в резултат не търси крайното бинарно решение „вярно/невярно“, а просто информира потребителя за рисковете и нюансите, оставяйки му решението сам да прецени как да се възползва от информацията.

„Танбих“ анализира езика. Проверява как източникът на информацията се съотнася към новините, които публикува: съдържа ли доказано достоверни и доказано фалшиви. Ако често се цитират неверни твърдения, това е доста ясен знак, че и бъдещите публикации на тази медия отиват в същата посока.

Съществуват повече от 60 пропагандни техники, а „Танбих“ се концентрира върху 18 от тях, които са най-разпространени и най-ефективни днес.

 

Ловец храбрец

Битката с фалшивите новини е неравна, защото, както показва проучване на MIT, те се разпространяват 6 пъти по-бързо от истинските. Те са по-атрактивни, подготвени са така, че да бъдат харесвани. Освен това онлайн нещата се случват светкавично: 50% от разпространението им е през първите 10 минути! Как е възможно за това време да се направи проверка дали новината е вярна?

Това могат да го правят само потребителите. Които, в случая, да бъдат подпомогнати от възможностите на изкуствения интелект.

Лесно е да се провери дали е вярно едно изречение. Дори да бъде аналитично, това също може лесно да се отрази. Но, както казва нашият събеседник, в президентския дебат в САЩ например, се казват около 1000 изречения. Също и в една по-дълга и аналитична статия. Как може да се провери всяко съждение? Единственият шанс е с помощта на изкуствения интелект. Алгоритмите, особено в областта на езиковия анализ (и, за съжаление, най-вече на разпространените езици) имат невероятни умения, показателен е примерът с GPT-3. „Танбих“ взема най-доброто от тази област, за да анализира за читателя дългите текстове и да даде своята независима оценка. Какво ще прави с нея въпросният читател, е негова работа. Но така и би трябвало да бъде, доста различно например от света на „Фейсбук“.

 

Преслав Наков, „Танбих“

Снимка: Here and now, Pixabay

 

На пусия

Дяволът е в детайлите. Във внушенията. И най-вече в случаите, когато лъжата е целенасочена, масирана, има конкретна пропагандна цел и носи определени ползи на източника.

Както казва д-р Наков, многото проекти за проверка на факти – ръчни или автоматизирани, не могат да решат проблема, защото в момента, в който можем да докажем, че една новина е невярна, тя вече ще е достигнала до милиони хора и няма как да бъде спряна. Именно затова ученият насочва усилията си към технологията, която може да предсказва фалшивата новина.

Всички знаем, че дори „Фейсбук“, въпреки дългогодишните си усилия, така и не успява да намери достатъчно работещо решение в тази посока. Огромният обем информация в социалната мрежа няма как да бъде следен автоматично, а заради системата на докладване на публикациите често жертва на цензурата падат текстове, с които просто някой не е съгласен. Но това не ги прави фалшиви, особено в среда, в която уж се търсят мнения и гледни точки, а не новинарско съдържание (като преплитането между двете е в основата на най-големите проблеми в тази област).

Ако е доказано, че даден сайт, профил или какъвто и да било източник вече е създал фалшива новина, със сигурност е редно да сме по-мнителни. Именно в тази посока помага алгоритъмът на „Танбих“. Идеята е да предсказва. Като не цензурира, а просто помага на потребителите. Дава им основни показатели за това колко е достоверен източникът, оцветен ли е емоционално по темата, за която пише. Например политически.

 

Фалшива новина по ловджийски

Единственият шанс да изградим по-добра интернет среда, е като спираме пропагандата и фалшивите новини, преди да са се разпространили, убеден е проф. Наков. И първата стъпка е верифицирането и отделянето на достоверните източници на информация.

Няма как да провериш всяко отделно твърдение на света. И все пак, по този начин можеш да провериш една новина, преди дори да е написана“.

Реалният проблем е, че когато се появят натрупвания, внушения, когато не само лъжата има значение, а и си личи кой има полза от нея. Точно това цели да улавя алгоритъмът „Танбих“.

За момента той работи на арабски и английски, покрива публикации, свързани с политика, бизнес, спорт, наука, технологии… и конкретно ковид.

 

Преслав Наков, „Танбих“

Снимка: Ed Rojas, Unsplash

 

Ловци на градус

„Танбих“ умее да оценява общата достоверност на фактите в текста, градуса на пропагандното съдържание, наличието на крайни политически оттенъци, идеологии. Оценява новината в общата рамка на останалите. Анализира отделните информационни единици, но още по-добре анализира източниците на информация.

Историята на този изкуствен интелект започва като обикновена система за персонализирано филтриране на новините, подобна на „Гугъл Нюз“. После създателите му решават да го разширят с основната идея – не просто да събира новини, а и да ги обогатяват с информация за съдържанието на текста, за основните характеристики на автора и медията, от които идва. Полезно е да знаеш дали източникът има ясно изразена политическа връзка, ако е виден анти- или проваксър. И най-вече: винаги, когато е екстремно предубеден към дадена тема.

 

100 шарана… и една червена херинга

А както стана дума, специалитетът му е да разпознава техниките на пропагандата. Предизвикването на страх е само една от тях. Като цяло, се делят на две групи, а първата разчита на емоциите. Може да става дума за страх, за патриотични чувства, за съчувствие. Втората част са по-скоро логически парадигми. Например „или си с нас, или си срещу нас“. Класическа техника е „Ефектът на бандата“, когато ни убеждават, че някой ще победи на изборите с огромен процент и ние трябва да се почувстваме от правилната страна на историята, като се присъединим.

„Червената херинга“ е още една техника за пропаганда, дължи красноватото си име на Уилям Корбет, който го популяризира през 1807 г. На български я наричаме с доста по-скучното название „отвличане на вниманието“. А чуем ли „червена херинга“, някак си се замисляме, ама има ли я наистина тази риба? Извън шарения термин, този пропаганден подход го знаем от българските медии и политици до болка добре.

 

Преслав Наков, „Танбих“

Снимка: Ron Porter, Pixabay

 

На мушката

„Умишлено замъгляване“ е друг подход на пропагандата. При него комуникацията нарочно е замъглена, говори се на целенасочено усложнен език, с морфични резонанси, както бихме казали у нас.

„Танбих“ е научен да разпознава всички тези и останалите класически техники, като успоредно с това анализира и оценъчната страна на текста.

Ех, ако всички бяхме малко повече като „Танбих“.

Скоро, надяваме се, ще го имаме и на български. Поне за да ни светва лампичката. А дали не е доста късно за лампички и има ли кой да ги гледа в тотално мрачна медийна среда като българската… кой знае, ще видим.

Има защо да сме отчаяни от естествения интелект, особено що се отнася до политиката и медиите по нашите ширини, нека дадем шанс на изкуствения.

 

Ловецът на хвърчила

„Аз продължавам да смятам, че медийната грамотност е най-доброто дългосрочно решение за това как се информираме“, казва изследователят. „Затова и съм горд с инструмента, който създадохме. Той успява да улови фините техники на пропагандата и да информира читателите, че са манипулирани. Така те знаят как да подходят към тези източници на информация, а и какво да избягват занапред. В един момент даже няма да им трябва платформата, ще разпознават техниките сами. Същото се случи и с мен, а и с други учени, работещи по проекта“, допълва Преслав Наков.

„Вече не мога да чета спокойно новините. Всеки път, когато ги отворя, започвам да разпознавам една по една техниките на пропагандата. Вярвам, че ще е много добре, ако повече хора стигнат до този етап.“

А ние се разделяме с новия ИИ и със създателя му, но с уговорката, че скоро ще се срещнем отново, за да направим интервю. Да поговорим и за други теми, свързани с най-важните и бързо напредващи посоки, в които алгоритмите се очаква да променят света ни. За прословутия изкуствен интелект, когото сме натоварили с толкова много (често пресилени) очаквания да промени живота ни в толкова много посоки.

А вие: какво бихте го попитали?

 

Преслав Наков

Снимка: Владимир Мачоков

Дигитални истории

Дигитални истории е и ще си остане изцяло некомерсиално начинание, на което посвещавам доста време и усилия. За създаването на сайта обаче са нужни определени разходи. Ако имате възможност и желание да подпомогнете сайта, вече можете да го направите. Разбира се, все така важна подкрепа си остава всяка добра дума, всяко споделяне на темите.

<a href="https://karamanev.me/author/georgik" target="_self">Георги Караманев</a>

Георги Караманев

Програмист, журналист и писател. Още за мен – тук.
Дигитални истории

Най-нови публикации:

Васил Анастасов. VR среща взаимоучителната метода

Васил Анастасов. VR среща взаимоучителната метода

Той е на 21, а вече е помогнал на повече от 200 деца да направят първите си стъпки в професионално поприще, което може да се превърне в успешна кариера. Днес Васил Анастасов се е заел с още една...

повече информация
Оригами назаем. Колко струват авторските права онлайн?

Оригами назаем. Колко струват авторските права онлайн?

Понякога животът в мрежата ражда казуси, които не биха ни хрумнали, колкото и да отпускаме въображението си. Представете си, почти като в роман на Кафка, изведнъж започват да ви се появяват реклами...

повече информация
„Забравихме, че бебето знае как да се роди“

„Забравихме, че бебето знае как да се роди“

Как технологиите промениха бременността и раждането? С какво облекчиха и как – парадоксално, в други посоки създадоха проблеми за начина, по който идваме на бял свят? Жени Маркова се свърза с мен...

повече информация
Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното...

повече информация
„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато...

повече информация

От рубриката:

Бил Гейтс и Философският камък

Бил Гейтс и Философският камък

Представяте ли си основателя на „Майкрософт“ като крадец на време? Как катеренето на високи планински върхове предопределя най-големите му успехи в софтуерния свят? Защо мечтата да победи баба си на карти е сред основните идеи, превърнали го в най-богатия човек на планетата?
Надали някой би обвинил Бил Гейтс, че притежава уменията на блестящ белетрист, обаче историите, които ни разказва един от най-важните (харесвани или не) хора на нашето време определено са впечатляващи. Избрах да ви разкажа 8 от тях…

повече информация
Оригами назаем. Колко струват авторските права онлайн?

Оригами назаем. Колко струват авторските права онлайн?

Понякога животът в мрежата ражда казуси, които не биха ни хрумнали, колкото и да отпускаме въображението си. Представете си, почти като в роман на Кафка, изведнъж започват да ви се появяват реклами на китайски магазини… за да ви предлагат нещо, което, много добре знаете, вие сте създали.
Какво бихте направили в такава ситуация?
Не Грегор Замза се казва нашият днешен герой, а Атанас Михалчев. Фотограф, художник, преподавател, от 3 десетилетия той живее в Канада и развива своето изкуство. Освен картините си – в пъстра палитра от стилове, той продава онлайн и малки, добре измислени и стимулиращи въображението и ловкостта детски комплекти за оригами. Които изведнъж… се оказва, че не са негови.
Наистина ли намерихме достатъчно добри механизми за защита на авторското право онлайн? Ще успее ли днешният ни герой да си върне откраднатото? Ще възтържествува ли справедливостта?

повече информация
Колко е IQ-то на ChatGPT?

Колко е IQ-то на ChatGPT?

Какъв е коефициентът на интелигентност на напредналия изкуствения интелект?
Достига ли, надминава ли средните 100 точки на днешното човечество? И защо това е важно?
Хайде да научим заедно!

повече информация

Най-новите:

Бил Гейтс и Философският камък

Бил Гейтс и Философският камък

Представяте ли си основателя на „Майкрософт“ като крадец на време? Как катеренето на високи планински върхове предопределя най-големите му успехи в софтуерния свят? Защо мечтата да победи баба си на карти е сред основните идеи, превърнали го в най-богатия човек на планетата?
Надали някой би обвинил Бил Гейтс, че притежава уменията на блестящ белетрист, обаче историите, които ни разказва един от най-важните (харесвани или не) хора на нашето време определено са впечатляващи. Избрах да ви разкажа 8 от тях…

повече информация
Васил Анастасов. VR среща взаимоучителната метода

Васил Анастасов. VR среща взаимоучителната метода

Той е на 21, а вече е помогнал на повече от 200 деца да направят първите си стъпки в професионално поприще, което може да се превърне в успешна кариера.
Днес Васил Анастасов се е заел с още една кауза. С помощта на модерните технологии да направи българските музеи по-атрактивни, привлекателни за младите. В началото сам извървява пътя към магията не миналото, за да разбере смисъла и важността на експонатите, които иначе се крият зад неразбираеми витрини с неатрактивни табели.
Хайде, нека потърсим заедно съкровище! Да опитаме да намерим важните пътеки сред обраслата поляна. За това как да превърнем музеите в магнетични места за младите. Къде се крият любопитството и желанието да споделяш знание, да помагаш. За историите на фона на най-модерните технологии в разработването на компютърни игри и системи с добавена и виртуална реалност. Запретвайте ръкави, чака ни приключение!

повече информация
Оригами назаем. Колко струват авторските права онлайн?

Оригами назаем. Колко струват авторските права онлайн?

Понякога животът в мрежата ражда казуси, които не биха ни хрумнали, колкото и да отпускаме въображението си. Представете си, почти като в роман на Кафка, изведнъж започват да ви се появяват реклами на китайски магазини… за да ви предлагат нещо, което, много добре знаете, вие сте създали.
Какво бихте направили в такава ситуация?
Не Грегор Замза се казва нашият днешен герой, а Атанас Михалчев. Фотограф, художник, преподавател, от 3 десетилетия той живее в Канада и развива своето изкуство. Освен картините си – в пъстра палитра от стилове, той продава онлайн и малки, добре измислени и стимулиращи въображението и ловкостта детски комплекти за оригами. Които изведнъж… се оказва, че не са негови.
Наистина ли намерихме достатъчно добри механизми за защита на авторското право онлайн? Ще успее ли днешният ни герой да си върне откраднатото? Ще възтържествува ли справедливостта?

повече информация
„Забравихме, че бебето знае как да се роди“

„Забравихме, че бебето знае как да се роди“

Как технологиите промениха бременността и раждането? С какво облекчиха и как – парадоксално, в други посоки създадоха проблеми за начина, по който идваме на бял свят?
Евгения Маркова се свърза с мен заради поредицата „Дигитални деца“ с предложението да поговорим за този аспект от връзката на технологиите с родителството. Тя живее в Германия и макар че дълги години е работила в сферата на маркетинга и разработката на софтуер, днес основното ѝ занимание е на дула. Особено популярно на запад, това е попрището на жени, които не са медицински специалисти, но помагат с информация, съвети, практическа и емоционална подкрепа на бъдещите майки.
Кога предоверяването на технологиите може да се превърне в проблем при бременността и раждането? Защо си струва в някои посоки да се върнем към традициите и повече да слушаме тялото си, а не само медицинските показатели или чужди съвети? Време е за един важен разговор, който според мен би могъл да даде много полезни идеи за хората, които тепърва се готвят да станат родители.

повече информация
Как срещаме децата с технологиите? (резултати от анкетата)

Как срещаме децата с технологиите? (резултати от анкетата)

По колко часа на ден децата имат досег с екран? Трябва ли в училище да има телефони? Как изглежда технологичното бъдеще за днешните деца? Какво има смисъл да учат? С какво е различно днешното родителство?
Тези и още много важни въпроси отправих в началото на февруари към родителите и близките на деца до 11 години. Анкетата на Дигитални истории събра повече от 350 мнения. Изводите са показателни, замислящи. Посланията, събрани там, си струва да бъдат четени и обсъждани.
Благодаря от сърце на всеки, който я попълни, на всеки, който помогна повече хора да се включат! Ето какви се оказаха резултатите.

повече информация
„Страх от технологии = изоставане на нацията“

„Страх от технологии = изоставане на нацията“

Елица Стоилова казва, че дигиталната грамотност би трябвало да се превърне в национална цел, ако искаме да вървим напред. „Липсата ѝ води до страх от технологиите = консерватизъм в тяхното въвеждане и използване = изоставане на нацията ни в множество посоки. Какво е бъдещето на неграмотните народи?“, написа ми тя.
Толкова е пъстър пътят на днешната ни гостенка! 11 години се занимава с журналистика. После се насочва към туризма, за да стане… управител на хотел на Марианските острови в Тихия океан. Докато накрая акостира в ИТ света. Разбира, че голяма част от задачите в туризма успешно могат да се изпълняват от алгоритми, тъй като са повторяеми. Така създава чатбот платформата UMNI, много преди друг един чатбот да привлече погледите на света към това колко е напреднал изкуственият интелект.
Но как така… тя е толкова оптимистично настроена за пътя напред? Гостенката ни смята, че ако правилно изиграем картите си, ИИ ни води към едно прекрасно бъдеще. От какво зависи дали ще изиграем картите си както трябва? И защо понякога си струва дори да изоставиш едно от най-райските кътчета на планетата, преследвайки мечтите? Търсим важни и неочаквани отговори в следващите редове.

повече информация
Share This