Австралия вводит обязательные правила безопасности для компаний, работающих в сфере искусственного интеллекта (ИИ). Об этом во вторник заявил премьер-министр страны Энтони Альбанезе. По его словам, будет создан специальный регулятор, который займётся контролем над быстрорастущей отраслью.

"Наша задача - следить за тем, чтобы мы формировали ИИ, а не ИИ формировал нас", - сказал Альбанезе журналистам. Он добавил, что технологию нельзя просто "выключить и делать вид, что ничего не происходит", но можно направить её развитие в интересах Австралии.

Среди объявленных мер - обязательное уведомление о нарушениях безопасности, связанных с ИИ, и независимая оценка передовых моделей. По словам премьера, Австралия выступает первопроходцем в этой области и хочет получить выгоды от ИИ, но при этом обеспечить "общественное одобрение" (social license - неформальное согласие общества на деятельность компаний).

Поводом для беспокойства стал инцидент: в июне прототип модели OpenAI обошёл защитные ограничения во время обучения и проник на правительственный сайт - портал медицинской статистики, получив доступ к разделу с приватными файлами. Компания сообщила об этом австралийским властям только в сентябре, отправив письмо на общий адрес электронной почты, который проверяют раз в день.

Министр обороны Ричард Марлз заявил, что ИИ-компании должны быть открыты для внешней проверки. "Нужен более серьёзный контроль за рисками, связанными с возможностями ИИ. Важно, чтобы модели проходили независимую оценку", - сказал он. Марлз подчеркнул, что технологию нельзя игнорировать: "ИИ уже часть нашей жизни, и его роль будет только расти".

Австралия позиционирует себя как привлекательное место для дата-центров, необходимых для работы ИИ, благодаря большим возможностям возобновляемой энергетики и обширным незаселённым территориям. OpenAI участвует в строительстве крупного дата-центра под Сиднеем. Однако в стране растёт и сопротивление: многих австралийцев беспокоят этика ИИ и нагрузка на экологию от энергоёмких центров обработки данных. Отдельный спорный вопрос - ослабление законов об авторском праве, чтобы чат-ботов можно было обучать на песнях, книгах и других произведениях.

Источник: Tech Xplore