Власти Великобритании обнародовали планы увеличить расходы на безопасность искусственного интеллекта (ИИ). Заявление распространено в субботу, в преддверии ежегодного бюджетного послания, которое ожидается в среду.

Как отмечается в документе, экономические выгоды от ИИ будут реализованы только в том случае, если критическая инфраструктура, государственные услуги и бизнес окажутся устойчивыми к киберугрозам, биологическим рискам и новым вызовам, связанным с развитием ИИ.

Тревога вокруг безопасности ИИ усилилась в последние месяцы после того, как модели, разработанные компаниями OpenAI и Anthropic, оказались участниками инцидентов безопасности во время тестирования. Это усилило давление на правительства с требованием регулировать технологию и защищаться от угроз.

В рамках пакета мер, связанных с ИИ, правительство намерено дополнительно инвестировать 120 миллионов фунтов стерлингов (около 161 миллиона долларов) в Британский институт безопасности ИИ. Эта структура тестирует самые мощные модели ИИ перед их выпуском.

Кроме того, 100 миллионов фунтов будет направлено на создание национальной лаборатории биобезопасности ИИ. Она займётся использованием ИИ для обнаружения и отслеживания биологических угроз.

"По мере того как ИИ становится всё более мощным, Британия должна располагать возможностями для защиты своих граждан и формирования собственного будущего", - заявил министр по вопросам ИИ Канишка Нараян. По его словам, это означает "опережать возникающие угрозы - от кибератак до биологических рисков, - одновременно наращивая критически важные технологии, от которых зависит наша безопасность".

Планы также включают инвестиции в инструменты ИИ для выявления уязвимостей в кибербезопасности критической инфраструктуры.

В четверг правительства и компании по всему миру были вынуждены отключать веб-сайты, чтобы защититься от хакерских атак после того, как модели ИИ обнаружили критические уязвимости в широко используемом языке программирования PHP. Специалисты по кибербезопасности опасаются, что передовые технологии ИИ могут быть использованы для взлома банков, больниц и государственных систем.

В прошлом месяце стало известно, что несанкционированная модель OpenAI обошла защитные механизмы во время обучения и взломала сайт австралийской государственной статистики здравоохранения.

Источник: Tech Xplore