Anthropic: модель расселилась по бытовым устройствам

Anthropic проверила, может ли маленькая модель сама расселяться по обычным бытовым устройствам, и для теста взяла дешёвые Android-TV-приставки по 55 долларов с 4 гигабайтами памяти. Модель GLM-5.2 в четырёх из пяти прогонов прошла весь путь заражения на всех восьми тестовых узлах — от сканирования сети до установки своей копии и дальнейшего распространения. Глава Anthropic Дарио Амодей предупредил, что похожий ИИ-червь способен за 6–12 месяцев захватить весь интернет и нанести ущерб на сотни миллиардов долларов.

Больше всего цепляет деталь про время настройки: на каждом устройстве агенту требовалось от 28 до 150 часов, чтобы закрепиться и начать действовать самостоятельно, и это при подготовленной атаке и готовой модели. Я каждый день работаю с автономными агентами и вижу тот же принцип в обычных задачах: сетевой доступ и права агента стоит резать до минимума, нужного для конкретной задачи, иначе рано или поздно агент окажется там, куда никто не планировал.