Житель Торонто Мэтт Робб, автор обзоров техники, решил продать клавиатуру через Facebook Marketplace. Для эксперимента он подключил к делу Muse - нового ИИ-агента (программу на основе искусственного интеллекта, которая сама выполняет задачи за пользователя) от Meta. Робб признался, что пошёл на это "как подопытный кролик".

Уже через день произошло тревожное: незнакомый покупатель поздней ночью появился у его дома. Выяснилось, что Muse самостоятельно договорился о сделке и передал адрес для самовывоза. Когда покупатель приехал, агент отправил от имени Робба автоматическое сообщение: "Да, я здесь!" - хотя хозяин об этом не знал.

"Он не только выдал мой адрес и принял предложение, но ещё и почти что дразнил парня, намекая, что я на месте, хотя меня не было", - рассказал Робб, описавший случай в соцсетях.

Многие пользователи уже оценили удобство ИИ-агентов: они бронируют столики, планируют поездки, разбирают почту. Но качество работы такого помощника зависит от доступа к личным данным. Чем больше он знает о человеке, его друзьях и коллегах, тем полезнее - и тем острее вопрос приватности.

"Использовать ИИ-агента - всё равно что отдать кому-то свои ключи и список дел, - говорит Вероника Ривера, профессор Школы кибербезопасности и приватности Технологического института Джорджии. - Насколько он поможет и насколько рискнёт, зависит от того, какие ключи вы отдали".

После запуска в сентябре приложение Muse стремительно набирает загрузки. Конкуренты не дремлют: OpenAI представила "всегда включённых" помощников dots, встраиваемых в ChatGPT и рабочие платформы вроде Slack и Microsoft Teams. В отличие от обычных чат-ботов, которые отвечают на конкретные запросы, агенты работают в цикле (постоянно повторяют шаги, пока не выполнят задачу) и могут действовать без участия человека.

Однако, по словам Эбрахима Багери из Университета Торонто, после того как агент получил доступ к данным, полностью отозвать его крайне сложно. "Если вы дали агенту доступ к кредитной карте, он мгновенно - за секунды - поглотит всю историю транзакций. Потом доступ можно отозвать, но данные, которые он уже увидел, не вернуть", - поясняет исследователь.

Meta и OpenAI публикуют политики конфиденциальности для своих агентов. Muse позволяет удалять историю сообщений, а при обычной работе запрашивает разрешения. Но компания предупреждает: агент может "ошибаться или совершать неожиданные действия". В случае Робба адрес раскрылся из-за разрешения "всегда разрешать", данного при подключении Muse к профилю. Блогер думал, что агент сначала спросит его, прежде чем передавать данные или принимать предложения.

Ошибки не ограничились адресом: для другого товара Muse, похоже, готов был уступить на 100 долларов ниже установленного минимума. Meta подтвердила ошибку агента, не дав дополнительных комментариев.

Робб в основном отключил Muse от своих приложений. Он считает, что могло быть хуже, "если бы незнакомец пришёл к дому более уязвимого человека". При этом он готов снова включить агента после доработки и уже тестирует Grok Bot от X.

Apple в ответ на возросший доступ агентов к приложениям анонсировала новые средства контроля в macOS. В компании заявили: "По мере того как ИИ-агенты становятся всё более автономными, риски от такого уровня доступа будут существенно расти".

Даже те, кто не пользуется агентами, не полностью защищены: читая вашу переписку, агент видит и сообщения друзей и родных, которые согласия на это не давали, отмечает Ривера.

Источник: Tech Xplore