Anthropic заявляет, что не против открытых моделей. Настоящая опасность — Китай.

В посте в блоге, опубликованном 27 июля, гендиректор Anthropic Дарио Амодеи ответил на открытое письмо, подписанное Nvidia, Meta, Microsoft и Mistral, которое критиковало попытки регулировать модели ИИ с открытыми весами. По словам Амодеи, его компания не выступает за запрет моделей с открытыми весами. Когда у таких моделей нет опасных возможностей, они по сути являются бесплатным благом.

1Главный страх — Китай, а не открытые веса

Амодеи считает, что настоящая опасность исходит от авторитарных режимов, в частности от КПК. Его беспокоит, что Китай сможет создать достаточно мощные модели, чтобы обеспечить себе «постоянное военное превосходство» над другими странами и подавлять собственных граждан, в том числе с помощью биологических атак. Вместо запрета открытых весов Амодеи считает более важным ограничить экспорт высокопроизводительных чипов, запретить дистилляцию моделей из передовых систем и создать международную организацию по проверке безопасности ИИ с участием Китая.

Это заявление важно, потому что оно отражает сдвиг в дискуссии вокруг регулирования ИИ. Вместо разговоров о том, должен ли ИИ защищаться авторским правом, дискуссия перешла к вопросу о том, кто должен иметь доступ к самым передовым моделям ИИ в мире и при каких условиях.