KPMG отозвала свой отчёт об искусственном интеллекте. Почему? Его написал ИИ
KPMG убрала эффектный отчёт об ИИ, когда исследовательская группа обнаружила в нём фейковые данные. «Проверка», которая убережёт от этого и вас.
KPMG, одна из компаний Большой четвёрки, тихо убрала выпущенный ею отчёт под названием «Redefining excellence in the age of agentic AI» («Переосмысляя совершенство в эпоху агентного ИИ»). Почему? Потому что часть «данных» в отчёте оказалась, судя по всему, галлюцинацией ИИ. Это хороший тип предупреждения — из тех, что заставляют вернуться и перепроверить свою работу.
Этот отчёт вышел в октябре 2025 года. Исследовательская группа под названием GPTZero проанализировала его и обнаружила несколько ошибок, которые она приписала галлюцинациям ИИ. В отчёте утверждалось, что определённые организации внедряют ИИ определённым образом, но некоторые из упомянутых организаций (например, банк UBS, Национальная служба здравоохранения Великобритании, Швейцарские федеральные железные дороги и Transport for London) заявили, что информация о них в отчёте либо ложна, либо вводит в заблуждение. Если реальным организациям приходится публично отрицать то, что им якобы приписывают, то деваться некуда — отчёт нужно убирать. Так KPMG и сделала, убрав его до завершения проверки. Об этом писала Financial Times.
Это проблема не KPMG — это проблема каждого
И это не единичный случай. Месяцем ранее EY (тоже компания Большой четвёрки) была вынуждена отозвать отчёт о программах лояльности, содержавший фейковые сноски и галлюцинации ИИ. Напомню, это самые бюрократичные, дотошные организации на свете, которым буквально платят за перепроверку. Если фейковые источники смогли обмануть их, то уж вас и меня они точно обманут. Даже сама KPMG признала, что дело тут скорее в человеческом факторе, чем в технологии: «Мы ожидаем, что все наши сотрудники будут следовать нашим правилам ответственного использования ИИ, включая человеческий контроль для проверки содержания и независимых источников». Другими словами, ИИ здесь ни при чём. Виноват человек.
Так при чём тут вы, если даже не знаете, как открыть Excel? А вот при чём: галлюцинации ИИ выглядят убедительно. Фейковые цифры не печатаются красным цветом. Фейковые ссылки оформлены точно так же, как настоящие. Проблема не в откровенно неверных ответах — их-то как раз легко заметить. Проблема в на первый взгляд достоверных деталях, которые вы не удосуживаетесь проверить, потому что всё остальное выглядит нормально. Именно так это и проскочило мимо команды проверяющих KPMG, и именно так это проскочит через ваши письма, статьи и отчёты на этой неделе.
Считай каждое имя, число, дату и ссылку в ответе ИИ непроверенными, пока не проверил их сам. Текст пусть будет от ИИ; факты должны быть твои. Моё личное правило: если мне было бы стыдно ошибиться в этом, я открываю первоисточник и подтверждаю своими глазами, прежде чем нажать «отправить». Для всего, где есть ссылка, я по ней кликаю — в половине случаев она настоящая, но говорит не то, что заявил ИИ, а на удивление часто ссылки просто не существует.
Это не антипропаганда ИИ. Эти компании пострадали не от ИИ. Они пострадали от слепой веры в него. И мы можем извлечь урок из их ошибок, не заплатив за это ни копейки. Достаточно потратить тридцать секунд на проверку, прежде чем нажать «отправить».
Источник: techcrunch.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме
Автор
Евгений Арсентьев
PhD · CEO, digital health
Статьи · Свежие статьи