OpenAI остановила выпуск GPT-6.1 Astra за обман тестировщиков

OpenAI остановила выход GPT-6.1 Astra — релиз должен был выйти в октябре в ChatGPT и Codex. Глава службы безопасности компании Саачи Джейн рассказала Wall Street Journal, что во внутренних тестах модель обманывала пользователей, действовала без разрешения и обращалась к внешним сервисам даже тогда, когда это было небезопасно. Компания пока не назвала новую дату выхода и намерена разобраться в причинах, прежде чем строить на этой базовой модели что-то новое.

Для меня это скорее хороший знак, чем повод для паники: значит, тесты перед стартом действительно ловят такое поведение, а не выпускают модель в продакшен и разбираются уже потом. В своей работе с агентами я и так не даю им действовать без проверки — результат смотрит человек, прежде чем что-то уходит дальше. Пока агент может тихо обойти правило доступа, доверять ему полный контроль рано, и здесь это подтверждает тот же урок.