OpenAI встраивает водяной знак в тексты ChatGPT

OpenAI добавляет невидимый водяной знак, textGrain, в текст от ChatGPT и Codex — своего чат-бота и инструмента для написания кода. Этот шаг призван удовлетворить требования закона ЕС об ИИ (AI Act), который обязывает помечать текст, созданный ИИ, машиночитаемой меткой. В ЕС водяной знак станет обязательным для ChatGPT и Codex. API OpenAI позволяет разработчикам строить свои продукты на основе её моделей — там водяной знак остаётся опциональным везде в мире. OpenAI настроила свой детектор на уровень ложных срабатываний 1%, то есть он редко по ошибке помечает обычный текст. При такой настройке он находил водяной знак в примерно 95% отрывков длиной 400 токенов, то есть около 300 слов, на тему психологии. После того как в этом тексте заменили четверть слов, точность обнаружения упала до 17%.

Для разработчиков, которые строят продукты на базе API, это почти не имеет значения. Функция по умолчанию отключена, и чтобы её включить, нужны дополнительные усилия. Даже включённая, она перестаёт работать, как только отредактирована четверть текста. В этот момент она находит водяной знак не лучше, чем случайное угадывание. Anthropic, компания, стоящая за чат-ботом Claude, действует иначе. Её водяной знак обязателен везде и при любом способе доступа к Claude, а не только там, где этого требует закон. Для OpenAI правило ЕС выглядит как формальная галочка для соблюдения регламента, а не как надёжный инструмент отслеживания.