Осенью прошлого года в Денвере на конференции собрались сотни специалистов по информатике. Аспирант Тран Тран решил проверить их внимательность: он показал аудитории видео, где настоящий Брэд Питт соседствовал с версией, созданной искусственным интеллектом. Лишь половина зрителей смогла отличить подделку от оригинала. "Модели, генерирующие дипфейки, становятся очень сильными", - констатировал Тран.

Дипфейк - это видео, в котором лицо или голос человека подменены с помощью ИИ. Такие ролики уже используют мошенники: известен случай в Гонконге, когда сотрудник перевёл 25 миллионов долларов, поверив поддельному видео с участием руководителя компании. Миллионы людей остаются уязвимыми, выходя на видеозвонки. Популярные сервисы - Zoom, Apple FaceTime, Google Meet и Microsoft Teams - пока не умеют распознавать дипфейки в реальном времени, хотя Microsoft недавно объявила о начале работы в этом направлении. Существующие системы обнаружения требуют огромных вычислительных мощностей, поэтому они дороги и плохо масштабируются.

Команда Трана под руководством профессора Сангте Ха задалась вопросом: можно ли упростить обнаружение подделок настолько, чтобы сделать его массовым? "Некоторые считали это невозможным из-за системных требований и текущей архитектуры, - говорит Ха. - Но если посмотреть на систему под другим углом, проблему можно решить".

Исследователи выяснили, что для выявления дипфейка не нужно восстанавливать видео в полном разрешении. Видео передаётся по интернету в сжатом виде, и существующие детекторы сначала разворачивают каждый кадр, на что уходит много ресурсов. Новая методика анализирует уже сжатые данные. При сжатии видео описываются не все пиксели, а изменения относительно предыдущего кадра. Если стена на фоне почти не меняется, она кодируется крупными блоками, а лицо и его мимика - множеством мелких. Когда облик человека резко меняется, сжатие фиксирует много новой информации. Учёные измеряют, сколько таких новых данных приходится на лицо и насколько широко они распределены. При этом видео не распаковывается. Только если что-то выглядит подозрительно, детектор запрашивает у устройства отправителя полный свежий кадр и проверяет его с помощью ИИ. "Мы смотрели данные только одного кадра из ста вместо каждого", - поясняет Ха.

На библиотеке из 1000 онлайн-видео с дипфейками система показала почти идеальную точность, затратив в 143 раза меньше вычислительных ресурсов, чем существующие модели. Результаты представлены на конференции SIGCOMM в августе. Соавтор работы Ширин Эбади отмечает: "Самое захватывающее - делать то, что никогда не делали". В планах команды - адаптировать систему для масштабных видеоконференций. Учёные рассчитывают, что спрос на такие технологии будет расти по мере распространения дипфейков.

Источник: Tech Xplore