В свят, изпълнен с убедителни фалшификати и фалшиви новини, учени разработват инструменти с финансова помощ от ЕС, за да помогнат на журналистите да разграничават реалните от измислените факти.

От Антъни Кинг

Миналата зима, когато коледните базари отвориха врати из цяла Европа, социалните мрежи бяха залети от тревожни видеоклипове. Публикациите показват как там „нахлуват“ радикални ислямисти.

В едно видео се вижда как хора „пречат“ на откриването на коледния пазар в Брюксел, докато на друга снимка се вижда пазарът, обграден от значителни сили за сигурност. Посланието е ясно: Християнските традиции са представени като застрашени.

Реалността обаче е различна. Видеоматериалите са изрязани от мирни демонстрации, а снимката е генерирана с помощта на ИИ. Нещо, което на пръв поглед изглежда убедително, всъщност е подвеждащо или напълно фалшиво.

Това е новата информационна среда.

Според неотдавнашно проучване на Европейската комисия почти две трети от анкетираните заявяват, че са се сблъсквали с дезинформация или фалшиви новини през предходната седмица. Никога не е било толкова трудно да се разграничи реалното от нереалното поради възможностите за генериране на силно реалистични изображения с помощта на инструменти с ИИ.

В отговор на това международен екип от учени и медийни специалисти, подкрепен с финансиране от ЕС, решава да отвърне на удара със същите средства.

Първа линия на защита

През 2020 г. експерти от университети, медийни организации и технологични компании обединяват усилията си в рамките на четиригодишна инициатива, финансирана от ЕС, наречена AI4Media. Целта е да се създадат инструменти с ИИ, които да помогнат на журналистите и проверителите на факти да наблюдават цифровото съдържание по бърз и надежден начин.

„Има спешна необходимост от разработване на техники с ИИ за медийния сектор“, заявява Янис Компациарис, директор по научните изследвания в гръцкия Център за изследвания и технологии (CERTH), който координира инициативата.

Изкуственият интелект е намалил значително препятствията пред създаването на убедително фалшиво съдържание. Всеки, който има достъп до генеративен ИИ, вече може да създава фалшиви изображения, клонирани гласове или реалистично изглеждащи новинарски статии. Платформите на социалните медии разпространяват това съдържание с голяма скорост.

„Когато една фалшива новина е подкрепена с реалистични изображения, става много по-лесно да ѝ се повярва и по-изкушително да се сподели, защото това съдържание се гледа много по-често“, твърди Компациарис.

Екипът на AI4Media е разработил инструменти за проверка, предназначени да бъдат интегрирани директно в работния процес на медиите. Медийни организации като „Deutsche Welle“ в Германия и VRT в Белгия са ги изпробвали в реални условия.

„Проверителите на факти и журналистите се сблъскват всеки ден с подозрителни изображения“, заявява Акис Пападопулос, учен в CERTH, който е работил по проекта. Той описва технологията като „първа линия на защита“ – не като заместител на човешката преценка, а като начин за бързо сигнализиране на потенциално манипулирано съдържание.

„Важно е да предоставим на журналистите в цяла Европа – и по целия свят – инструменти, които да им помогнат бързо да разпознават подозрителни материали“, казва той.

Според Европейската обсерватория за цифрови медии — независим, финансиран от ЕС център, който наблюдава кампаниите за дезинформация във всички държави от ЕС, генерираната от ИИ дезинформация непрекъснато се увеличава през последните месеци.

И това далеч надхвърля изолирани случаи. Координираните кампании могат да повлияят на избори, да изопачат обществения дебат и да подкопаят доверието в институциите.

Разпознаване на модели на дезинформация

Разпознаването на манипулирано съдържание е само част от предизвикателството. Не по-малко важно е да се разбере как се разпространява дезинформацията – кой я задълбочава, как се развиват посланията и дали тези кампании са координирани.

„Намираме се в непрекъснат цикъл от опити да разберем и да се приспособим към най-новите технологии“, заявява Рикардо Галоти, ръководител на отдела за комплексно поведение във Фондация „Бруно Кеслер“ (FBK).

FBK, със седалище в Тренто, Италия, е изследователски център, известен с работата си в областта на цифровите иновации, изкуствения интелект и изследването на комплексни социални системи. В рамките на паралелен на AI4Media проект, финансиран от ЕС, наречен AI4Trust, FBK си сътрудничи с университети и медийни организации от цяла Европа, за да анализира по-широката динамика на дезинформацията в интернет.

Сред партньорите му са Euractiv в Белгия, Sky Italia, както и организациите за проверка на факти — Maldita.es в Испания, Ellenika Hoaxes в Гърция и Demagog в Полша.

AI4Media се съсредоточва върху откриването на манипулирани медийни материали и интегрирането на инструменти за проверка в медиите, а AI4Trust създава хибридна система, съчетаваща човешки и машинен принос, за широкомащабно наблюдение и анализ на дезинформацията.

Платформата проследява множество социални медии и новинарски сайтове в почти реално време, като използва усъвършенствани алгоритми с ИИ за обработване на многоезично и мултимодално съдържание — текст, аудио и изображения.

Тъй като обемът на онлайн материалите далеч надхвърля човешкия капацитет, системата филтрира и сигнализира за публикации, които носят висок риск от фалшифициране. След това този материал се преглежда от професионални проверяващи, а техните потвърдени оценки се въвеждат обратно в системата с цел подобряване на нейната ефективност.

Двата проекта се допълват взаимно. Единият е насочен към откриване на манипулирано съдържание, а другият се отнася до това как се разпространява това съдържание. Заедно те предлагат както микроскопски, така и широко поглед за разбиране и противодействие на дезинформацията, основаваща се на ИИ.

Надпревара за стратегическо надмощие

Използването на ИИ за откриване на ИИ може да звучи иронично, но това е сериозно занимание.

„Звучи странно, но е като надпревара за стратегическо надмощие“, заявява Компациарис.

Генеративните модели на ИИ се развиват с изключителна скорост. Когато AI4Media започва да функционира, инструменти като ChatGPT все още са в начален стадий на развитие. Оттогава насам качеството и реалистичността на съдържанието, създадено от изкуствен интелект, са се подобрили значително.

„Навлязохме в нова ера, в която темпото на промените е толкова бързо, че човешкият ум едва ли може да го удържи“, каза Пападопулос. „За да сте в крак с ИИ, трябва да го използвате.“

Тъй като генеративните модели стават все по-мощни, системите за откриване трябва постоянно да се адаптират. Това беше едно от най-големите предизвикателства, пред които бяха изправени изследователите.

„Технологията се развива толкова бързо, че дори на нас, учените, ни е трудно да я следваме“, обяснява Пападопулос. „Трябваше непрекъснато да актуализираме моделите си, за да откриваме новогенерирани изображения.“

Екипът автоматизира части от процеса на проверка и редовно преустройва своите системи. Но за да се запази преднината, са необходими постоянни инвестиции – както в научните изследвания, така и в медийния сектор, който разчита на тези технологии.

Бъдещето на ИИ

Но само технологията не е достатъчна.

„Нуждаем се от инструменти, но се нуждаем и от политики и правила“, казва Компациарис.

Съгласно Акта за цифровите услуги, много големите онлайн платформи трябва да оценяват и да намаляват системните рискове, включително разпространението на дезинформация, както и да повишават прозрачността относно начина, по който функционират техните системи. Законът за изкуствения интелект въвежда задължения за прозрачност по отношение на определени системи с генеративен ИИ, включително изисквания за обозначаване на съдържанието, генерирано от изкуствен интелект.

В същото време проектът за кодекс за поведение относно прозрачността на съдържанието, генерирано от ИИ, има за цел да насърчи определянето на по-ясни стандарти за разкриване на информация и за поставяне на воден знак.

Защитата на независимата журналистика е друг приоритет. Европейският акт за свободата на медиите предвижда гаранции, които да осигурят признаването и защитата на професионалното медийно съдържание на големите онлайн платформи.

Големите платформи трябва да уведомят признатите медии, преди да премахнат журналистическо съдържание, и да обяснят мотивите си, като дадат време на съответните организации да отговорят. Целта е да се предотврати необоснованото премахване на законни сигнали.

Заедно тези мерки и системи образуват по-широка защитна мрежа: технологии за разкриване на манипулации, регулаторни мерки за подобряване на прозрачността и отчетността, както и предпазни механизми за защита на отговорната журналистика.

Обществената осведоменост остава също толкова важна.

„Няма едно единствено решение”, заявява от своя страна Компациарис. „Нуждаем се от съчетание на инструменти за изкуствен интелект, прозрачност, регулиране и осведоменост, ако искаме да бъдем по-ефективни в борбата срещу дезинформацията.“

Първоначално статията е публикувана в Хоризонт — списанието на ЕС за научни изследвания и иновации.

Изследването, описано в тази статия, е финансирано от програмата „Хоризонт“ на ЕС.

Повече информация