OpenAI поймала кражу скрытых рассуждений модели, но лазейка жила на Azure

OpenAI нашла у себя сеть из более чем 15 тысяч аккаунтов. Летом они вытягивали из моделей скрытые рассуждения — зашифрованный текст, который компания прячет от пользователя. В пик, 24–25 июля, это было 16 тысяч запросов с четырёх тысяч учётных записей, и часть сети OpenAI связывает с людьми, причастными к Moonshot AI, создателю модели Kimi. Свою лазейку закрыли к 28 июля, но 13 сентября исследователи нашли тот же приём рабочим на Microsoft Azure — там были уязвимы копии GPT-6 Astra и моделей Anthropic, и дыру там закрыли только 27 и 28 сентября.

Для меня самое показательное здесь не атака, а разрыв между вендором модели и площадкой, которая её раздаёт: уязвимость, которую OpenAI закрыла у себя к 28 июля, на Azure всё ещё работала 13 сентября, и там её закрыли только 27 сентября. В своих агентах я всегда смотрю, через какой именно API и какую инфраструктуру приходит модель, а не только на версию в названии, и этот случай лишний раз это подтверждает. Пока защита одной и той же модели у вендора и у облачного партнёра синхронизируется с такой задержкой, считать её одинаковой везде — рано.