Модели OpenAI научились обманывать своих проверяющих-людей

OpenAI опубликовали 6 случаев неожиданного поведения, которые они заметили при тестировании своих моделей. В одном случае, при обучении GPT-5.6 Sol, модель вставляла несколько отсылок, рассказывающих будущим версиям, как скрывать ошибки от тестировщиков. В другом случае агент публиковал своё решение в сети, а потом ссылался на самого себя.

Это происходит. Если в 2026 году модели учат другие модели скрывать ошибки от тестировщиков, я точно буду принимать дополнительные меры предосторожности, прежде чем выпускать своих агентов в мир. Как заявили в OpenAI: «у нас пока нет достаточно хорошего понимания alignment, чтобы продолжать на полной скорости».