Вы выложили в соцсети фотографии из поездки в Бразилию. На следующий день приходит письмо от отеля, где вы останавливались: благодарность за визит и скидка на следующее проживание. В письме упоминается ваша поездка, название отеля выглядит правильным, ссылка кажется надёжной. Но отель ничего не отправлял. Письмо сгенерировала нейросеть, собрав детали из ваших открытых публикаций.

Исследователи из Техасского университета в Арлингтоне (США) показали: широкодоступные инструменты искусственного интеллекта (ИИ) могут собирать сведения из публичных постов в соцсетях и быстро создавать массовые персонализированные мошеннические письма. Такой приём называют контекстно-зависимым целевым фишингом (spear phishing): злоумышленник обращается к конкретному человеку, используя детали его жизни, чтобы тот кликнул на вредоносную ссылку и выдал пароли или данные банковской карты.

"Атаковать может кто угодно, и это пугает", - говорит Ширин Нилизаде, доцент кафедры компьютерных наук и инженерии UTA, руководившая работой. По её словам, с такими моделями злоумышленникам не нужно делать много: достаточно сказать, что требуется.

Целевой фишинг не нов. Нилизаде отмечает: раньше большинство адресных атак опиралось на статичные данные - должность или место работы. Новая работа изучает более изощрённый вариант, который использует подробности повседневной жизни, выложенные в сеть. "Теперь мошенники могут брать социальные взаимодействия и быт людей и вставлять их в письма, - говорит она. - Это персонализированнее и может сделать людей уязвимее".

Соавтор исследования, аспирантка Эльхам Пурраббас Вафа, поясняет: инструменты ИИ вытаскивали детали из недавних постов, включая фотографии, и на их основе составляли письма. Исследователи проверяли письма на темы путешествий, событий, которыми люди интересовались (например, концертов), и даже забот, которыми они делились в сети. Под каждого получателя подстраивали тему письма, имя отправителя и ссылки. "Человек найдёт такое письмо очень правдоподобным, потому что в нём упоминаются детали его недавнего опыта", - говорит Пурраббас Вафа.

В исследовании с участием пользователей сгенерированные ИИ письма получили высокие оценки качества - это, по мнению авторов, и делает атаки опасными.

Компании, разрабатывающие ИИ, уже применяют фильтры безопасности, призванные блокировать вредные запросы. Однако исследователи обнаружили, что такие фильтры в основном не распознавали просьбы создать персонализированные мошеннические письма. Команда проверила несколько распространённых инструментов, включая Llama Guard, ShieldGemma и WildGuard. С настройками по умолчанию они выявляли лишь от 0% до 19% атакующих запросов. Когда фильтрам дали конкретные инструкции распознавать подобные атаки, доля обнаружения выросла до 99%.

"Мы призываем компании, работающие с ИИ, серьёзно отнестись к таким атакам, - говорит Нилизаде. - Им нужно внедрить защитные меры, чтобы их инструменты не использовали для создания высокоточных атак социальной инженерии".

Точные инструкции, с помощью которых создавались мошеннические письма, авторы не включили в публичную версию работы, чтобы другие не могли ими злоупотребить.

Исследование принято к представлению на симпозиуме Network and Distributed System Security Symposium в Сеуле (Южная Корея) в марте 2027 года. Пурраббас Вафа также представила работу на Техасском семинаре по безопасности в Техасском университете в Далласе.

Источник: Tech Xplore