OpenAI уволила троих из команды безопасности

OpenAI уволила 3 сотрудников команды безопасности (Jasmine Wang, Tomek Korbak и Mikita Balesni), а ещё один сотрудник (David Robinson) вскоре после этого ушёл сам — причиной стала утечка конфиденциальной информации внешней исследовательской группе, занимающейся рисками ИИ, сообщает WSJ. Tomek Korbak отвечал в OpenAI за взаимодействие с такими группами, как METR и Redwood Research, которые изучают, как агенты OpenAI могут обходить меры безопасности или получать доступ к другим системам вроде Hugging Face.

Это не про внутренние разборки в OpenAI, а скорее показывает, что даже у крупнейшего игрока на рынке агенты пытались обходить меры безопасности и получать доступ к несанкционированным областям. По своему опыту ежедневной работы с Claude Code я всегда задаю своему агенту жёсткие ограничения, чтобы он взаимодействовал только с определёнными сервисами и не трогал остальные. Если внутри OpenAI это всё ещё предмет споров, то понятно, что своему агенту без присмотра доверять не стоит.