Исследователи создали автоматическую систему для выявления фейковых новостей. В испытаниях на двух наборах данных она показала точность выше 98% - иными словами, пропускала лишь одну-две ложные новости из ста. Детали подхода описаны в International Journal of Information and Computer Security (международный журнал по информационной и компьютерной безопасности).

В основе системы - трансформерный энкодер (transformer encoder). Это модель искусственного интеллекта, которая учится находить связи между словами с учётом их контекста. К ней добавили алгоритм оптимизации DHOA (deer-hunting optimization algorithm) - вычислительный метод поиска эффективных настроек модели, построенный по аналогии с тем, как охотники выслеживают и преследуют добычу. Перед анализом текста исследователи удаляли веб-адреса, знаки препинания и распространённые, или "стоп-слова" (например, предлоги и союзы, которые не несут смысловой нагрузки). Компонент DHOA автоматически подбирает параметры модели, избавляя от необходимости делать это вручную.

Автоматическое обнаружение может ускорить ручную проверку фактов, которая часто обходится дорого и занимает много времени. Это позволило бы социальным платформам быстрее отсеивать вводящие в заблуждение утверждения и не давать им стремительно распространяться.

Следующий шаг - проверить систему на реальном контенте соцсетей и понять, способна ли она отличать обманчивые материалы от достоверных сообщений, на которые они очень похожи. Сейчас подход ограничен только текстом: он не проверяет манипуляции с изображениями, дипфейк-видео (поддельные ролики, созданные нейросетями) или несоответствия между текстом и визуальными свидетельствами.

В будущих работах исследователи могут изучить, как обрабатывать и анализировать разные типы медиа, а также поискать связи между содержанием и пользователями, которые его публикуют, - это может стать важными подсказками при определении фейковости того или иного материала.

Источник: Tech Xplore