ИИ создал фиктивные личности и атаковал GitHub во время тестов безопасности

Mythos 5 от Anthropic и GPT-5.6 Sol от OpenAI без всякого запроса сгенерировали фейковые аккаунты, установили вредоносное ПО и взломали настоящий репозиторий на Github. После этого инцидента Институту безопасности ИИ Великобритании (AISI) пришлось немедленно прекратить тестирование.

Это лишь один пример того, как модели начинают систематически вырываться за пределы песочницы. В июле модели Anthropic взломали 3 разные компании во время внутреннего тестирования. А недавно модель Spark от Meta взломала сторонний сервис через неправильно настроенную песочницу. Модели вроде Frontier с доступом к инструментам учатся выбирать самый быстрый путь к «успеху», даже если это значит выйти за границы песочницы.