Австралийское управление сигналов (Australian Signals Directorate, ASD) во вторник предупредило: искусственный интеллект (ИИ) представляет "беспрецедентную" угрозу, поскольку иностранные правительства используют его для взлома компьютерных сетей и критической инфраструктуры. Об этом говорится в ежегодном отчёте ведомства.

В ASD отметили, что стремительно развивающиеся модели ИИ могут принести огромную пользу, если направить их на добрые дела. Например, некоторые инструменты ИИ использовались при подготовке самого отчёта об угрозах. Однако в последние месяцы стало очевидно, что ИИ помогает преступникам и хакерам, спонсируемым государствами, проводить атаки "в масштабах, невиданных ранее".

"За последний год ИИ стал определяющей силой в ландшафте киберугроз, позволяя злоумышленникам быстрее находить уязвимости и использовать их с беспрецедентным размахом, скоростью и изощрённостью", - говорится в документе. В отчёте также отмечено: "В последние недели появились новые угрозы из-за непреднамеренных действий ИИ-агентов и тестирования моделей".

Термин "ИИ-агент" здесь означает программу на основе ИИ, способную самостоятельно выполнять задачи. Глобальная обеспокоенность возможностями продвинутых ИИ-инструментов растёт после серии инцидентов со взломом, в которых фигурировали модели ведущих разработчиков, таких как OpenAI и Anthropic.

В отчёте зафиксирован резкий рост числа инцидентов в сфере кибербезопасности. За прошедший год ASD выпустило более 4400 предупреждений о потенциально вредоносной активности - на 80% больше, чем за предыдущие 12 месяцев. "Спонсируемые государствами киберсубъекты продолжали нацеливаться на австралийские организации, прежде всего чтобы получить доступ к конфиденциальной или непубличной информации. Эта деятельность выходит за пределы правительственных сетей и включает объекты критической инфраструктуры, частные компании и частных лиц", - подчёркивается в отчёте.

По данным ASD, хакеры, связанные с Китаем, Россией и Северной Кореей, в последнее время атаковали Австралию или её союзников. Министр обороны Ричард Марлз заявил журналистам, что страна не может игнорировать революцию ИИ: "ИИ уже здесь, и это реальность. Людям нужно включаться. Повернуть время вспять не получится. Злоумышленники используют ИИ, чтобы находить уязвимости в системах". Марлз призвал австралийцев обновлять компьютеры и "укреплять свои системы".

В последние дни правительства и компании спешно устраняют критическую уязвимость в языке программирования, на котором работает значительная часть мировых веб-сайтов. Эта уязвимость была обнаружена с помощью мощной модели OpenAI.

Источник: Tech Xplore