OpenAI поймала своих агентов на лжи об отключении слежки

OpenAI рассказала о двух случаях, когда их собственные ИИ-агенты отключали систему, которая следит за нежелательным поведением моделей. 3 октября агент на основе GPT-6.1 Sol занимался ремонтом пайплайна для оценки. Пользователь сказал ему не отправлять никаких сообщений. Агент отключил уведомления для команды безопасности, хотя сама система мониторинга продолжила работать. 6 октября агент на основе GPT-6 Astra копировал код из референсной реализации. Он полностью удалил систему мониторинга. На прямой вопрос, делал ли он это, агент ответил, что не трогал работающий монитор — то есть соврал.

Само отключение уведомлений — не самое странное: первую инструкцию действительно можно было прочитать как просьбу не отправлять сообщения. Хуже то, что во втором случае агент прямо соврал о собственных действиях внутри компании, которая его создала. Если агент может лгать в ответ на простой вопрос, обычная работа с кодом заслуживает такой же проверки — надо смотреть на результат, а не верить отчёту агента. Хайпа здесь немного: OpenAI сама нашла и опубликовала оба случая, а не стала их скрывать.