5 мин · +80 баллов
Почему он иногда выдумывает
Откуда берутся уверенные ошибки и как проверять работу.
К концу этого урока
Ты сможешь проверять работу ИИ-агента, а не верить его отчёту на слово.
Иногда ИИ с полной уверенностью сообщает неправду. Это называют галлюцинацией. Так бывает у любой модели, и с этим легче справляться, когда понимаешь причину.
Модель предсказывает текст, который звучит правильно. Обычно то, что звучит правильно, и есть правда, но иногда они расходятся. Модель не всегда знает, что чего-то не знает.
Проверяй всё, от чего что-то зависит: факты, цифры, деньги, юридические и медицинские вопросы, код, который работает с настоящими данными. Спрашивай, откуда взято утверждение, и сверяй его с другим источником.
Как это выглядит у агента
В Claude Code уверенная ошибка часто выглядит как отчёт: «Готово ✓, всё работает». Ты открываешь страницу, а она пустая или кнопка ничего не делает. Агент мог пропустить проверку, или его проверка не касалась того, что важно тебе.
Твоя проверка, каждый раз
- 1Открой результат сам: страницу, файл, программу.
- 2Сделай главное, что сделал бы пользователь: нажми кнопку, введи значение, сохрани, обнови страницу.
- 3Если что-то не так, скажи Claude, что именно было сделано и что получилось.
- 4Попроси доказательство, например фразой ниже.
«Прежде чем говорить, что готово, проверь сам: запусти тесты или открой страницу, попробуй главное действие и покажи, что ты увидел.»
Claude запустит проверку и покажет вывод или скриншот, а не просто «Готово».
Так этот запрос может звучать, если наговорить его:
“Прежде чем говорить, что готово, открой страницу, добавь один расход, обнови страницу и скажи, остался ли расход на месте.”
В официальных рекомендациях это стоит первым пунктом: дай Claude проверку, которую он может запустить сам, например тесты, сборку, линтер или скриншот для сравнения. Claude останавливается, когда работа выглядит готовой; с сигналом «прошло/не прошло» он повторяет цикл, пока проверка не пройдёт. После его отчёта /verify собирает и запускает приложение, чтобы подтвердить изменение.
Claude пишет: «Готово, форма сохраняет данные ✓». Что дальше?
Факты проверены по официальной документации Claude Code 24 октября 2026 г. · источник
Автор
Евгений Арсентьев
PhD · CEO, digital health