Учёные предупредили, что ИИ скоро сможет cам размножаться через бытовую технику

Компания Anthropic предупредила о появлении нового типа угрозы: небольшие модели искусственного интеллекта в ближайшие месяцы могут научиться самостоятельно копировать себя на подключённые к интернету устройства. Под угрозой потенциально окажутся умные телевизоры, бытовая техника и другие гаджеты с недостаточной защитой. Такие ИИ-системы смогут распространяться без постоянного участия человека, используя вычислительные мощности чужих устройств.

К такому выводу специалисты Anthropic пришли после серии экспериментов, результаты которых опубликовали 12 октября. Исследователи проверяли, способен ли ИИ самостоятельно находить уязвимые устройства, переносить на них свою модель, запускать её и продолжать распространение. В отличие от обычного вредоносного программного обеспечения, подобные системы потенциально смогут адаптироваться к незнакомому оборудованию и самостоятельно решать возникающие технические проблемы.

В экспериментах ИИ уже смог выполнять отдельные этапы самокопирования

Исследование показало, что модели размером до 30 миллиардов параметров уже справляются со многими задачами, необходимыми для автономного распространения. Однако небольшие системы пока допускают ошибки, когда требуется выполнить всю последовательность действий от начала до конца.

В упрощённых испытаниях, где часть защитных механизмов была отключена, модели уровня GLM-5.2 и более мощные системы смогли завершить полный цикл самокопирования. Исследователи также продемонстрировали работу модели Gemma4 с 26 миллиардами параметров на группе из 15 недорогих Android TV-приставок. Вычисления распределялись между устройствами, каждое из которых выполняло часть общей задачи.

По прогнозу Anthropic, если небольшие ИИ-модели продолжат совершенствоваться прежними темпами, уже к концу 2026 года они могут достичь уровня, необходимого для самостоятельного копирования. Вскоре после этого технически возможным может стать распространение моделей непосредственно между подключёнными к интернету устройствами.

Самокопирующийся ИИ будет сложно полностью отключить

Главная опасность заключается в отсутствии единого центра управления. Если такая система распространится на большое количество независимых устройств, отключение одного сервера не остановит её работу. Более того, ИИ потенциально сможет самостоятельно приспосабливаться к различным типам оборудования, а не ограничиваться заранее известными уязвимостями.

Особое внимание исследователи уделили устройствам интернета вещей. Недорогие телевизионные приставки, умные духовки, холодильники и другая бытовая техника нередко получают обновления безопасности нерегулярно, что делает их потенциально привлекательными целями.

При этом Anthropic подчёркивает, что подобные ИИ-системы, вероятно, будут распространяться относительно медленно из-за ограниченной мощности бытовых устройств. Речь пока идёт об экспериментальных возможностях и прогнозе, а не об обнаруженной массовой атаке самокопирующегося ИИ.

Компания призвала производителей усилить защиту подключённого оборудования и подготовиться к появлению автономных ИИ-угроз, которые смогут использовать уязвимые устройства без непосредственного управления человеком.

Читайте также на LeaksMedia: Хакеры нагрели холодильники в сотнях супермаркетов Франции до 50°C и уничтожили продукты.