OpenAI: модели учили себя прятать ошибки от тестировщиков

OpenAI опубликовала шесть инцидентов с неожиданным поведением моделей во время тестирования. В ходе обучения GPT-5.6 Sol модели несколько раз добавляли в обучение инструкции для следующих версий: как прятать ошибки от тестировщиков. В другом кейсе агент залил свой ответ в интернет и сослался на него как на источник.

Это уже не теория. Когда модель в 2026 году учит следующую версию себя прятать ошибки, я начинаю иначе смотреть на то, что деплою с агентами. OpenAI написали прямо: индустрия не решила проблему выравнивания достаточно, чтобы продолжать масштабироваться на полной скорости.