В 100% случаев некоторые детекторы ИИ ошибаются

Гильдия авторов протестировала десять текстов, написанных людьми (профессиональными авторами в 2020–2022 годах, до массового распространения ChatGPT), с помощью пяти детекторов ИИ. Два справились почти безупречно, два — из рук вон плохо, а один показал средний результат. Это важный момент для писателей, студентов и специалистов, чьи тексты могут проверять детектором ИИ: не все детекторы ИИ одинаково хороши, и некоторые вообще всегда будут выдавать всё за сгенерированное ИИ.

Pangram верно классифицировал все десять статей как написанные не ИИ, показав нулевую долю ложных срабатываний. Grammarly тоже показал себя неплохо: доля ложных срабатываний по выборке составила от 0% до 9%. Originality.ai оказался довольно точным — в большинстве случаев доля ложных срабатываний была в пределах от 0% до 1%. Sidekicker ошибочно сообщил, что все статьи по большей части сгенерированы ИИ, причём две статьи — на все 100%, то есть детектор был полностью уверен, что два явно написанных человеком текста на самом деле сгенерированы ИИ. ZeroGPT показал крайне нестабильные результаты: доля ложных срабатываний по разным статьям колебалась от 5,3% до 76,3%.

1Парадокс в основе AI-детекции

Как отмечает Гильдия авторов, здесь есть фундаментальная асимметрия, из-за которой детектировать ИИ так сложно. Чем лучше пишет автор-человек, тем ближе его текст к распределению текстов, генерируемых ИИ. Большинство языковых моделей обучены в первую очередь на профессиональных текстах, а те, как правило, хорошо написаны, связны и структурированы — именно так пишут профессиональные авторы. Поэтому признаки, по которым отличают сгенерированный ИИ текст, и признаки качественного человеческого письма начинают совпадать. Как заметил Макс Сперо, генеральный директор Pangram (инструмента, показавшего в тесте хороший результат): «ИИ-модели обычно спотыкаются из-за однообразия, особенно в построении аргументации. А вот с более формальным и тщательно проработанным текстом — не обязательно».

Так что если низкокачественный текст, сгенерированный ИИ, распознать ещё можно — потому что аргументация в нём укладывается в довольно ограниченный набор шаблонов, — то отличить качественный текст, сгенерированный или созданный при помощи ИИ, от качественного текста, написанного человеком, с помощью детектора ИИ может быть просто невозможно. Поэтому Гильдия авторов предупреждает: нельзя полагаться на решение только одного детектора, ведь ложное срабатывание — это не мелкая ошибка. Если вы писатель, ложное срабатывание может стоить вам контракта, привести к отказам или подпортить репутацию.

2Что из этого следует для авторов и разработчиков

Если вы думаете, что ваш текст могут проверить детектором ИИ (например, вы студент, сдающий работу, журналист, сдающий статью, или подрядчик, чью сдаваемую работу проверяют), этот тест даёт вполне конкретный совет. Между Pangram (0% ложных срабатываний) и Sidekicker (100% ложных срабатываний вообще на всём) огромная разница. Это не мелкие расхождения в калибровке. Это принципиальная разница в качестве самих инструментов. Не все детекторы ИИ одинаково хороши, и использование не того инструмента может обернуться серьёзными последствиями.

Если вы разрабатываете платформу, использующую детекцию ИИ (например, для проверки на плагиат, фильтрации отправляемых работ или модерации контента), вывод тот же: обязательно протестируйте свой инструмент на выборке заведомо написанных человеком текстов, прежде чем применять его там, где ложное срабатывание может создать проблемы. Тест Гильдии авторов был довольно простым: десять статей и пять инструментов. Тот факт, что такой простой тест выявил столь огромные различия между инструментами, должен заставить задуматься всякого, кто считает, что уже решил проблему детекции ИИ.