Президент Microsoft Брэд Смит во вторник призвал отрасль и правительства действовать без промедления, чтобы создать реальные и эффективные стандарты безопасности для сдерживания рисков, связанных с искусственным интеллектом (ИИ). Об этом он сказал журналистам накануне международного саммита по ИИ в Дублине.

"Нам понадобится для ИИ то же, что у нас есть для всего остального в жизни... нужны реальные и эффективные стандарты безопасности, и нужно, чтобы общественность им доверяла", - заявил Смит.

Беспокойство о безопасности ИИ резко возросло за последние месяцы после того, как модели, разработанные OpenAI и Anthropic, оказались вовлечены в инциденты безопасности во время тестирования. Это усилило давление в пользу регулирования технологии.

"Мы дошли до точки, когда компаниям отрасли явно нужно активизироваться и делать больше для решения проблем безопасности ИИ, - сказал Смит. - Думаю, настало время, когда и правительствам нужно делать больше".

Глава Microsoft изложил предложения компании по усилению безопасности в отрасли. Первое - требование оснащать ИИ-агентов (программы, способные автономно выполнять задачи) тормозами безопасности, которые пользователи могли бы активировать в случае инцидента. "Идея в том, чтобы особенно для любого ИИ, работающего на критической инфраструктуре или другой автоматизированной системе, была возможность отключить или замедлить его", - пояснил он.

Смит также призвал ввести для поставщиков ИИ обязательные требования по сообщению об инцидентах. "Если вы бизнес и пострадали от утечки, приведшей к потере данных потребителей, вы обязаны уведомить потребителей, - сказал он. - Та же логика должна применяться к людям, пострадавшим от ИИ-агента", - с юридической обязанностью информировать пострадавших.

Кроме того, президент Microsoft выступил за более строгое тестирование и оценку моделей ИИ перед выпуском, чтобы убедиться в их безопасности. "Нужно действовать без промедления", - предупредил он.

Смит - не первый из ведущих фигур отрасли, кто указывает на необходимость повышенной бдительности вокруг ИИ. Среди них - глава Anthropic Дарио Амодеи, обещавший при необходимости в одностороннем порядке замедлить разработку. Генеральный директор Nvidia Дженсен Хуанг во вторник заявил, что руководители ИИ-компаний должны нести ответственность за безопасную разработку технологии. Выступая в Париже, он сказал: "Полный потенциал ИИ может быть реализован, только если мы одновременно развиваем возможности ИИ и его безопасность. Это не противоречащие цели. Фактически это одна и та же цель".

Источник: Tech Xplore