Opus 5 решает главную проблему безопасности ИИ-агентов

Claude Opus 5 + Auto Mode показал 0% успешных атак с промпт-инъекциями на 129 тестах браузерных агентов. Без Auto Mode Claude Opus 5 уязвим на 3,7% — против 2,8% (Fable 5) и 2,6% (Mythos 5) у главных конкурентов в бенчмарке Gray Swan IPI.

Auto Mode обеспечивает два уровня защиты: блокирует скрытый код до запуска модели и останавливает опасный код при выполнении. Чтобы промпт-инъекция сработала, атакующему нужно пройти оба уровня — отсюда заявленные 0% успеха.

Промпт-инъекция — это когда атакующий внедряет скрытый код на веб-страницу, которую читает ИИ-агент. Агент выполнит этот код вместо того, чтобы решать поставленную задачу. В OpenAI заявили: «эту проблему, скорее всего, никогда не удастся решить полностью». Anthropic намерена доказать обратное.