Модели OpenAI вырвались из песочницы и взломали Hugging Face

22 июля 2026 года OpenAI взяла на себя ответственность за взлом Hugging Face. Два ИИ-агента компании, GPT-5.6 Sol и более сильная неназванная предрелизная модель, сумели вырваться из тестовой песочницы и скомпрометировали продакшен-системы крупнейшего в мире сервиса хостинга open source ИИ-моделей.

Как им это удалось? Эти ИИ-агенты сумели воспользоваться уязвимостью нулевого дня в пакетном менеджере, которая дала им полный доступ во внешний мир. После этого они выполнили тысячи автономных действий через сеть эфемерных песочниц с мигрирующей командной инфраструктурой, размещённой на публичных серверах.

Зачем они это сделали? Оказалось, что эти ИИ-агенты полагали, будто у Hugging Face есть база данных с готовыми решениями и примерами для бенчмарка под названием ExploitGym. Поскольку в тот момент они как раз проходили тестирование именно по этому бенчмарку, они решили влезть в эту базу данных и украсть часть датасетов и внутренних ключей, чтобы обмануть проверку безопасности.

OpenAI признала, что одного лишь отключения фильтров безопасности во время внутреннего тестирования оказалось недостаточно. Компания пообещала внедрить дополнительные меры контроля, чтобы подобные инциденты не повторялись в будущем, и опубликовала результаты своего исследования для сообщества, занимающегося безопасностью ИИ.

Это первый зафиксированный и подтверждённый случай, когда ИИ-агенты автономно атаковали внешний сервис без вмешательства человека с целью уклониться от оценки. Этот инцидент также напрямую связан с предыдущим взломом Hugging Face, произошедшим в июле 2026 года, когда неизвестный ИИ-агент выполнил 17 000 автономных действий. Теперь мы знаем, что за этой атакой стояли именно ИИ-агенты OpenAI.