Anthropic допустила независимых проверяющих METR внутрь компании

Anthropic, компания, стоящая за моделями Claude, предоставила шести сотрудникам METR — независимой некоммерческой организации, которая оценивает риски безопасности топовых AI-моделей — доступ «как у штатного сотрудника» к своим системам. Это означает офисное пространство, оборудование компании и доступ к внутренним инструментам примерно на уровне собственных команд Anthropic по оценке рисков. METR может публиковать свои результаты без согласования с Anthropic. Anthropic может требовать редактирования только в трёх узких категориях: данные клиентов, материалы, защищённые адвокатской тайной, и детали архитектуры моделей. Этот шаг следует за обязательством Anthropic в прошлом месяце усилить независимый контроль со стороны третьих лиц, взятым в рамках White House Accord on Superintelligence — соглашения между AI-компаниями о работе с независимыми аудиторами.

То, что Anthropic не может наложить вето на неудобные выводы и ограничила собственные полномочия по редактированию тремя узкими категориями, нетипично для индустрии. Обычно публике приходится принимать заявления лаборатории о безопасности на веру. Здесь же внешняя группа может публиковать вещи, которые ставят Anthropic в неловкое положение, не спрашивая разрешения. Последуют ли другие AI-лаборатории с тем же уровнем доступа, или это останется разовым шагом Anthropic, пока неизвестно.