В мае 2025 года в США вступил в силу закон TAKE IT DOWN Act - первый федеральный акт против дипфейков и других сгенерированных ИИ интимных изображений без согласия человека. Он криминализует распространение "порномести" (интимных фото или видео, публикуемых без согласия изображённого), включая материалы, созданные искусственным интеллектом, и требует от соцсетей и сайтов оперативно удалять такое по запросу.

Однако новое исследование Брауновского университета показывает: этот закон и принятые до и после него законы штатов не охватывают всю цифровую экосистему, которая делает возможным такой вид сексуального насилия с помощью ИИ. Работа была представлена 7 ноября 2026 года на конференции ACM Conference on Equity and Access in Algorithms, Mechanisms and Optimization.

Руководила исследованием Мишель Дин, аспирантка по информатике из Центра технологической ответственности, переосмысления и редизайна Брауновского университета. "Ключевая проблема в том, что злоупотребление дипфейками - это не одна картинка, модель, сайт или приложение, а целая экосистема, - говорит Дин. - Чтобы защитить уязвимые сообщества от вреда и эмоциональных страданий, нужно сначала ясно увидеть эту экосистему".

Исследователи составили таксономию - систему классификации - из 11 технологических категорий, охватывающих пять ролей: создание изображений (сами ИИ-модели, интерфейсы, обучающие данные), распространение (соцсети и мессенджеры), обнаружение и тиражирование (поисковики, магазины приложений, сообщества), инфраструктура и поддержка (платформы для разработчиков вроде GitHub и Civitai) и монетизация (платёжные системы).

В качестве примера они разобрали экосистему вокруг Grok в соцсети X. Пользователи могли получить интимное изображение, просто отметив Grok в посте с просьбой "надеть на неё бикини" или "снять с неё одежду". Бот публиковал картинку прямо в комментариях. Затем в Telegram возникло сообщество, где учили обходить ограничения платной версии Grok и делать ещё более откровенные материалы.

Проанализировав 64 закона штатов и федеральных акта, исследователи обнаружили: более 92% из них нацелены на отдельных создателей и распространителей, почти не затрагивая технологическую инфраструктуру. По мнению авторов, это порождает бесконечную игру в "whack-a-mole" - погоню за отдельными картинками по всему интернету. "Grok генерировал более 6000 изображений в час в декабре прошлого года. Нужно переключить внимание на техническую инфраструктуру, которая позволяет злоупотреблениям происходить и приносит прибыль", - подчёркивает Дин.

Соавтор Харини Суреш, доцент информатики, добавляет: "Сейчас все меры очень реактивны - изображения удаляют, когда они уже разошлись. Есть пробел на стороне создания. Можно ли мотивировать исследователей ИИ думать о том, как не дать модели создавать такие изображения в принципе? Это сложная задача, но, возможно, мы поможем поставить её в повестку".

Исследователи надеются, что карта экосистемы поможет законодателям и компаниям найти точки давления. Сайт-компаньон, созданный при участии студентов Хаи Бугшан и Майи Мишевской, в интерактивной форме знакомит с технологиями, избегая сенсационности. "Когда мы говорим об экосистеме, это звучит абстрактно. Но показывая знакомые инструменты и сайты, мы делаем её осязаемой", - говорит Бугшан.

Источник: Tech Xplore