Компания Anthropic предупредила, что управляемые искусственным интеллектом черви могут вскоре распространиться по умным гаджетам. Это заявление продолжает серию исследований о том, как ИИ усиливает самораспространяющееся вредоносное ПО.

Компьютерный червь - это вредоносная программа, которая самостоятельно переходит с одного устройства на другое.

В июне Николя Паперно, доцент электротехники и вычислительной техники Университета Торонто, вместе с командой создал прототип ИИ-червя на основе общедоступных моделей. Паперно подписал открытое письмо с рекомендациями для политиков и рассказал агентству AFP, почему с ИИ такие атаки труднее остановить.

По его словам, многие устройства интернета вещей (IoT - подключённые к сети бытовые приборы) имеют слабую киберзащиту и легко становятся мишенью злоумышленников. Раньше червь эксплуатировал фиксированный набор уязвимостей, и их можно было закрыть, чтобы остановить распространение. Теперь атакующий может создать червя, который подстраивает стратегию под конкретное устройство, а уязвимости могут быть разными. Это значительно усложняет прерывание распространения: приходится предугадывать все возможные слабые места.

Некоторые уязвимости - не ошибки в коде, а неправильные настройки, например одинаковый пароль для разных сервисов или неверно сконфигурированная база данных. ИИ-вредоносное ПО ускоряет использование таких уязвимостей и увеличивает масштаб атак. Если раньше кофейня за углом или редко используемый ноутбук могли не обновляться, но не привлекали внимания злоумышленника из-за нехватки ресурсов, то теперь автономность ИИ делает такие устройства интересными как плацдарм для атаки на более важные цели. При этом Паперно подчёркивает: агента запускает человек, и хотя после запуска он может размножаться, как показано в работе, инициатором остаётся человек.

Для снижения рисков исследователь предлагает три краткосрочные меры. Во-первых, изменить практику разработки и тестирования, чтобы модели ИИ изначально были отключены от интернета - это позволит лучше понять их поведение до подключения критической инфраструктуры. Во-вторых, создать международный орган для стандартизации обучения и сдерживания моделей ИИ. В-третьих, сделать сообщения об инцидентах безопасности обязательными: сейчас информация поступает только по желанию разработчиков ИИ, а академическому сообществу нужно гораздо больше данных, чтобы быстрее разрабатывать контрмеры.

Паперно признаёт: полностью свести риск к нулю не получится, и даже при наличии исправлений люди не всегда обновляют устройства вовремя. Несмотря на десятилетия призывов экспертов, в мире всё ещё можно гораздо больше инвестировать в безопасность компьютерных систем.

Источник: Tech Xplore