KPMG отозвала отчёт об ИИ — его выдумал сам ИИ

Я строю с Claude Code каждый день, так что я последний человек, который скажет тебе отложить ИИ. Но эта история заставила меня поморщиться — в полезном смысле, когда тут же хочется перепроверить собственную работу. KPMG, одна из «большой четвёрки» аудиторских фирм, тихо отозвала свой же отчёт под названием «Redefining excellence in the age of agentic AI». Причина: часть «фактов» в нём, похоже, выдумал ИИ.

Отчёт вышел в октябре 2025 года. Исследовательская группа GPTZero прошлась по нему и нашла множество неточностей, списав их на галлюцинации ИИ. В документе утверждалось, что конкретные организации используют ИИ конкретным образом — и сразу несколько из названных, включая банк UBS, британскую Национальную службу здравоохранения (NHS), Швейцарские железные дороги и Transport for London, заявили, что утверждения о них «либо неправда, либо вводят в заблуждение». Когда реальным учреждениям приходится публично говорить «то, что отчёт приписал нам, мы не делали», отчёт остаётся только отозвать. KPMG так и поступила — на время расследования. О ретракции сообщила Financial Times.

Это проблема не KPMG — это проблема каждого

И это не разовый случай. Всего месяцем ранее EY — ещё одна фирма из «большой четвёрки» — отозвала отчёт о программах лояльности, в котором тоже оказались выдуманные сноски и галлюцинации ИИ. Подумай, кто эти компании: самые процедурные, всё-перепроверяющие фирмы на планете, которым другие платят именно за проверку чужой работы. Если выдуманные источники проскальзывают мимо их проверяющих, то мимо твоих и моих — тем более. Представитель KPMG, по сути, признал, что подвёл человек, а не машина: «Мы ожидаем, что все наши сотрудники следуют нашим правилам ответственного использования ИИ, включая человеческий контроль для проверки содержания и подтверждения независимых источников». Перевод: ИИ правила не нарушал. Их нарушил тот, кто пропустил шаг проверки.

Вот почему это важно, даже если ты ни разу в жизни не открывал таблицу. Галлюцинации ИИ звучат уверенно. Выдуманная цифра не приходит подчёркнутой красным; фальшивая ссылка выглядит ровно как настоящая, вплоть до оформления. Опасность была никогда не в явно неверном ответе — такие ловишь мгновенно. Опасность — в правдоподобной детали, которую не приходит в голову проверить, потому что всё вокруг неё сходится. Именно так это проскользнуло мимо целой комнаты проверяющих KPMG — и точно так же проскользнёт в письмо, школьное сочинение или рабочую сводку, которую ты сгенерируешь на этой неделе.

Скажу прямо: я не против ИИ, я опираюсь на него сильнее почти всех, кого знаю. Но фирмы из этой истории обожглись не на том, что использовали ИИ. Они обожглись на том, что доверились ему, не глядя. Это бесплатный урок, подаренный остальным, и применить его не стоит ничего — кроме тех тридцати секунд, что уходят на проверку перед отправкой.