Все крупные лаборатории ИИ подключились к проверке безопасности со стороны США — кроме Meta

Американский Центр стандартов и инноваций в области ИИ (агентство по оценке, которым руководит министр торговли Говард Латник) потребовал, чтобы Meta предоставила правительству доступ к своей модели Muse Spark для оценки перед её выпуском. Это соответствует указу, изданному 2 июня, который прописывает процедуру оценки передовых моделей ИИ: правительству даётся 30 дней с момента подачи модели, чтобы оценить её возможности и связанные с ней риски.

Любопытно, что Meta — единственная из шести ведущих лабораторий ИИ, которая так и не присоединилась к этому соглашению. Остальные лаборатории, включая OpenAI, Anthropic, Google, xAI и Microsoft, уже дали правительству ранний доступ к своим моделям для оценки. Отвечая на запрос правительства, представитель Meta заявил: «Мы разделяем цель администрации по поддержке лидерства США в разработке безопасного и надёжного передового ИИ», — но так и не пообещал выполнить требование.

1Как работает новый механизм проверки

По этой схеме лаборатории ИИ соглашаются дать правительству доступ к своим самым сильным моделям перед их публичным выпуском. В течение 30 дней правительство оценивает модель по её возможностям, потенциальным злоупотреблениям и необходимым ограничениям или мерам предосторожности. По сути, это даёт правительству возможность проверить модель перед публичным релизом — по аналогии с тем, как перед выходом на рынок проверяют лекарства и медицинские приборы.

Meta традиционно была более открытой, чем другие лаборатории ИИ: она выкладывала свои модели семейств LLaMA и Muse в открытый доступ, а не прятала их за платными API. Возможно, именно это и создаёт напряжение вокруг нынешнего требования. Трудно совместить политику открытого выпуска моделей с политикой предоставления правительству эксклюзивного доступа к ним за 30 дней до релиза.

2Почему это важно для тех, кто строит на AI

Это первый случай формальной процедуры предварительного выпуска моделей ИИ в США, и 5 из 6 ведущих лабораторий уже в ней участвуют. Как только Meta (а возможно, и другие) последует их примеру (а скорее всего, так и будет), в цикле разработки ИИ появится новый этап: модели должны будут проходить проверку правительства, прежде чем попасть к разработчикам и потребителям.

В краткосрочной перспективе это мало что изменит для тех, кто пользуется API ИИ, — модели по-прежнему будут выходить, просто правительство получит возможность сначала их проверить. Однако в долгосрочной перспективе это знаменует сдвиг к более формализованным отношениям между исследованиями передового ИИ и правительством США. Это также в чём-то похоже на то, как оцениваются другие продукты с высокими ставками. Пока неясно, повысит ли это безопасность, замедлит ли разработку или изменит типы создаваемых моделей.

Речь идёт о нынешней самой мощной модели Meta, которая обладает как обычными, так и расширенными способностями к рассуждению (Muse Spark). Модель вышла в апреле, и, судя по всему, правительство хочет посмотреть, как работает эта модель Meta с включённым рассуждением, прежде чем она получит более широкое распространение.