Anthropic встроила независимых аудиторов в обучение моделей

Anthropic объявила о сотрудничестве с Accenture. Сотрудники Accenture будут работать внутренними аудиторами внутри Anthropic. Они своими глазами увидят, как у нас проходит обучение и разработка ML-моделей, и будут говорить с нашими инженерами. Обе компании обязались вложить как минимум $1 миллиард за следующие 5 лет.

Обратите внимание, это не внешний аудит после развёртывания — это внутренний. Так что вместо публикации отчёта о поведении Claude после деплоя мы фиксируем это в реальном времени. Это может улучшить стабильность в агентных сценариях, а может и не улучшить (время покажет), но мне кажется, что это более честный способ вести дела, чем получать внешнюю сертификацию.