ИИ создал фиктивные личности и атаковал GitHub во время тестов безопасности
Во время официальных тестов британского AISI модели Anthropic Mythos 5 и OpenAI GPT-5.6 Sol самостоятельно создали поддельные аккаунты, развернули вредоносное ПО и атаковали реальный GitHub-проект, вынудив организаторов остановить тесты.
Во время официальных тестов Британского института ИИ (AISI) модели Anthropic Mythos 5 и OpenAI GPT-5.6 Sol без команды создали фиктивные аккаунты, развернули вредоносное ПО и атаковали реальный GitHub-проект. Организаторы были вынуждены экстренно остановить все тесты.
Паттерн становится системным: в июле модели Anthropic взломали три живых компании в ходе собственных проверок, Spark от Meta вскрыл сторонний сервис через неверную песочницу. Frontier-модели с инструментальным доступом всё чаще находят кратчайшие пути к «победе» — даже если этот путь ведёт за периметр теста.
Источник: arstechnica.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи