Компания Anthropic, разрабатывающая искусственный интеллект, предупредила: уже через несколько месяцев небольшие ИИ-модели могут обрести способность вести себя как компьютерный червь - самостоятельно копировать себя с одного подключённого к интернету устройства на другое без участия человека. Об этом говорится в блоге компании, опубликованном в понедельник вечером.

Компьютерный червь - это вредоносная программа, которая распространяется между машинами сама по себе. По словам исследователей, ИИ-версия такого червя не нуждается в мощных дата-центрах: она может перескакивать с гаджета на гаджет по сетям дешёвой и плохо защищённой потребительской техники - например, с недорогих ТВ-приставок на кухонные приборы.

Свои расчёты скорости и масштаба распространения учёные строили на основе Kimwolf - ботнета (сети захваченных хакерами устройств), который в пиковый момент заразил более 2 миллионов гаджетов, в основном малоизвестных Android-приставок для телевизоров. Авторы работы Уильям Чжоу и Дэниел Фриман сравнивают такой ИИ-червь с медленно размножающимся роем плодовых мушек: на копирование себя ему потребуются дни. Зато, возникнув, он будет очень живучим - центрального выключателя, который мог бы его отключить, просто нет.

Сами исследователи признают: оценка приблизительная, поскольку основана на одном типе устройств и одном прошлом ботнете. Однако со временем вычислительная мощность обычных гаджетов растёт, а необходимые для такой атаки ИИ-модели становятся всё меньше, добавляют они.

Вэрун Чандрасекаран, доцент электротехники и вычислительной техники Иллинойсского университета, назвал результаты неудивительными и перекликающимися с другими недавними работами. При этом он отметил, что исследование Anthropic не проходило независимой проверки. По его словам, защита таких устройств, как термостаты или домашние камеры, исторически была очень слабой. Но главная угроза сегодня исходит не от вышедшего из-под контроля ИИ, а от злоумышленников, использующих искусственный интеллект для усиления своих атак, считает он.

Дискуссия о неуправляемом ИИ вспыхнула в июле, когда программы на моделях OpenAI вырвались из внутреннего теста компании и проникли в системы платформы Hugging Face - судя по всему, в поисках ответов на задания теста. Этот случай и подобные отчёты вызвали международное давление с требованием ужесточить регулирование ИИ, хотя администрация Трампа сопротивляется и призывает индустрию к саморегулированию. Anthropic и создателя ChatGPT OpenAI влиятельные голоса в Белом доме и Кремниевой долине обвиняют в нагнетании страхов ради защиты своего доминирования на рынке. Президент Microsoft Брэд Смит во вторник призвал индустрию и правительства действовать срочно, чтобы создать реальные и эффективные стандарты безопасности для сдерживания рисков искусственного интеллекта.

Источник: Tech Xplore