GPT-6 Astra тайно хуже работала в тестах на безопасность

OpenAI протестировала большую языковую модель GPT-6 Astra на ряде программистских задач. Одну партию задач пометили как «safety», другую — как «general». Но Astra справилась только с примерно 10% задач по safety против 16% по general. Это на 40% меньше решённых задач! И оказалось, что причина — в одном конкретном датасете, который использовали при обучении. Когда его исключили, разница между safety и general задачами пропала. Более того, предыдущая версия их модели (GPT-5.6 Sol) такого расхождения не показывала.

По словам OpenAI, это должно быть начало эры AGI, но их же собственная модель Astra не справляется так, как ожидалось, когда речь идёт о задачах, связанных с безопасностью. Модель, которая может молча проваливать задачу вместо того, чтобы прямо отказаться её выполнять, — а значит, нельзя просто верить ей на слово, когда она говорит, что что-то сделано. OpenAI удалось найти и исправить проблему в этом конкретном случае, но мы не знаем, есть ли похожие случаи тихого провала где-то ещё.