Искусственный интеллект в борьбе с фейками: обзор инструментов

Журналист The Fix, Приял Шах, подробно написала о проектах, платформах и инструментах на базе искусственного интеллекта, предназначенных для выявления фейковых новостей. Редакция Factchecknet представляет перевод статьи, считая ее необходимой для фактчекеров и журналистов, специализирующихся на верификации информации, а также для тех, кто только начинает работать в этой области.

Оригинальная версия статьи здесь.

Способность выявлять и различать дезинформацию является одним из наиболее важных навыков современных журналистов. Также невозможно отслеживать и проверять большое количество фейков только с учетом человеческого фактора. В этом вопросе нам помогут инструменты, работающие на основе Искусственного интеллекта.

По словам Лоренса Дирикса, исследователя Бергенского университета, специализирующегося на проверке фактов и использовании Искусственного интеллекта в журналистике, существует несколько проектов, пользующихся Искусственным интеллектом для ускорения трудоемкого процесса проверки фактов.

The Fix собрал информацию об инструментах, которые помогут журналистам и фактчекерам выявлять и разоблачать дезинформацию. Эти инструменты разделены на четыре категории: для проверки текста, изображений, видео и выявления активности ботов.

Инструменты проверки текста на основе Искусственного интеллекта

Exorde network

Exorde — глобальная платформа обработки информации, которая анализирует распространение и популярность контента в Интернете. Как она работает? Exorde берет URL-адрес текстового контента, затем анализирует его, чтобы оценить тон текста и то, как на него реагируют люди во всем мире. На последнем этапе Exorde публично архивирует эту информацию.

FactCheck.org

FactCheck.org — это проект Центра общественной политики Анненберга при Пенсильванском университете. Центр рассматривает заявления политиков на местном, государственном и федеральном уровнях. Проверяет утверждения о политике и науке. Инструменты Ask FactCheck и Ask SciCheck позволяют журналистам получать результаты проверок данных, проведенных командой ресурса.

Factiverse

Factiverse — это проект Искусственного интеллекта, который журналисты могут использовать для ускорения процесса проверки фактов. Проект основан на исследованиях Университета Ставангера и является редактором ИИ (AI Editor), который находит дезинформацию в контенте и предлагает надежные ресурсы, он состоит из инструмента (Microfacts), который помогает найти базу данных и соответствующий контекст для проверки фактов (FactiSearch), объясняет жаргоны и профессиональные термины.

ClaimReview

ClaimReview — это система, созданная в сотрудничестве с Google, позволяющая помечать контент фактчека, включающий проверку фактов. Эта система помогает находить фактчек-материалы и продвигать их в поисковых системах и социальных сетях. Он добавляет к контенту теги, содержащие информацию о результатах проверки фактов, для подтверждения достоверности информации.

Инструменты проверки изображений на основе ИИ

Исследование Дирикса показало, что многие специалисты по проверке фактов недооценивают возможности нейронных сетей в создании аудиовизуального контента. Даже самая надежная система обратного поиска не дает удовлетворительных результатов при работе с контентом, созданным ИИ. «Качество изображений и видео, созданных ИИ, становится все лучше, и их все труднее проверить», — говорит он.

Ниже приведены некоторые инструменты, которые журналисты могут использовать для фактчекинга.

Инструменты проверки EXIF

Сменный файл изображения (exchangeable image file — EXIF) — это стандартный формат, который сопровождает все цифровые изображения. EXIF содержит информацию об изображении: его ISO, частоту кадров и экспозицию, а также дату и место съемки фотографии. Любые изменения, внесенные в исходную фотографию, записываются в ее метаданные. Проверка EXIF-кодов фотографий полезна для определения того, была ли фотография обработана. Онлайн-ресурсы EXIF Data Viewer и Metadata2go позволяют просматривать EXIF ​​изображений. Программное обеспечение ExifTool by Phil Harvey для ПК также можно использовать для той же цели.

TinEye
TinEye — еще один инструмент проверки изображений. Он помогает журналистам находить дубликаты изображений, проверять, где изображение появлялось раньше, а также использовать технологии обратного поиска.

Инструменты проверки видео на основе ИИ

Плагин проверки верификации WeVerify

Последняя версия плагина проверки InVID-WeVerify позволяет использовать различные инструменты для проверки визуального контента. У них есть возможность анализировать содержимое изображения, идентифицировать в нем оптические сигнатуры и сравнивать содержимое с известной поддельной базой данных.

The Glorious ContextuBot | Shared Nation

Glorious ContextuBot — это инструмент, который поможет вам определить исходный источник аудиофайлов. «Технология отпечатка пальцев» помогает найти не только первоисточник голосовой записи, но и связанный с ней контекст. Это также полезно для определения места использования аудиофайла.

Truepic
Truepic позволяет журналистам проверять подлинность визуального контента. Truepic Display находит информацию об источнике и истории любого медиафайла, а Truepic Lens находит метаданные любого файла.

YouTube DataViewer

YouTube DataViewer, инструмент, созданный Amnesty International, помогает извлекать метаданные из любого видео, размещенного на YouTube. Он также позволяет пользователям находить эскизы видео и искать обратные изображения.

Инструменты ИИ для проверки деятельности бота

OSoMe dan Botometer®

Botometer — это проект, созданный Обсерваторией социальных сетей (OSoMe) при Университете Индианы. Этот инструмент проверяет активность аккаунтов Twitter и присваивает им баллы: балл 0 указывает на учетную запись человека, а балл 5 указывает на учетную запись бота. Он также классифицирует типы ботов: exo-kamera, фальшивый фолловер, финансовый бот, распространитель спамов и другие.

Hoaxy

Hoaxy отслеживает распространение дезинформации на обычных сайтах, созданных человеком. Этот инструмент помогает журналистам отслеживать путь статей в виртуальном мире. Он также оценивает вероятность использования ботов или автоматизации в распространении этих статей.


Бонус: еще пять инструментов

Media Bias / Fact Check

MBFC — это ресурс для проверки фактов и новостных веб-сайтов. Он оценивает веб-сайты и средства массовой информации на основе их предвзятости, политической принадлежности и достоверности информации, которую они проверяют. Он предоставляет подробные отчеты о достоверности и способности предоставлять проверенную информацию более чем 6300 средств массовой информации.

Hamilton 2.0 Dashboard


Hamilton 2.0, созданный «Альянсом за сохранение демократии» Германского фонда Маршалла, специализируется на выявлении информации и нарративов, продвигаемых правительствами России, Китая и Ирана. ASD Social Data Search предоставляет журналистам широкий спектр возможностей для поиска твитов на одну и ту же тему.

The Factual

Алгоритм The Factual оценивает новости на основе четырех показателей: качество сайта, авторские навыки, качество источника и тон статьи. На основе этих параметров контент получает оценку от 1 до 100%. Материалы с оценкой 50% и выше относятся к информативным материалам, а с оценкой ниже 50% считаются материалами, не дающими достоверной информации.

Climate Feedback

Climate Feedback — это платформа, специализирующаяся на разоблачении фейков об изменении климата. Ее проверенная информация предоставлена ​​сетью ученых по всему миру. На сайте ученые делятся новостями, дают пояснения и комментарии к ложной информации, обнаруженной в утверждениях, распространенных в Интернете.

Tank Classifier

Tank Classifier — еще один хороший пример инструмента Искусственного интеллекта, который журналисты могут использовать для выявления фейков. По словам Дирикса, этот инструмент «помогает фактчекерам определить, какой стране принадлежал тот или иной танк во время войны и где он был изготовлен». В настоящее время этот прибор может классифицировать только 20 видов военной техники.