OpenAI, Anthropic и Microsoft подписали декларацию о безопасности ИИ

9 ноября в Париже группа из восьми стран вместе с ведущими ИИ-компаниями — такими как OpenAI (создатели ChatGPT) и Anthropic (создатели чат-бота Claude), софтверный гигант Microsoft и французская ИИ-компания Mistral AI — подписала совместное заявление о безопасности ИИ. Подписанты договорились публиковать информацию о своих оценках безопасности моделей, делиться сведениями о выявленных рисках, открывать свои системы для аудита со стороны третьих лиц и поддерживать доступные «выключатели» для своих ИИ-моделей.

Хотя в соглашении нет конкретных сроков или механизмов принуждения, а детали того, как именно должны проводиться эти оценки безопасности, пока не проработаны, это заявление — скорее признание проблемы, чем работающий механизм контроля. Если крупные ИИ-лаборатории начнут делиться информацией о безопасности и допускать внешние аудиты, у потребителей и регуляторов наконец появится общий стандарт, по которому можно оценивать обещания компаний насчёт безопасности.