7 мин · +80 XP
Почему он врёт (и как его поймать)
Галлюцинации без мистики — и твоя защита за три секунды.
К концу этого урока
Ты будешь доверять ИИ правильно: много, но никогда вслепую.
Иногда ИИ с полной уверенностью заявляет что-то ложное. Это называется галлюцинацией, и как только ты поймёшь, почему так происходит, это перестанет тебя пугать.
Главный факт: он предсказывает правдоподобный следующий текст. Обычно «правдоподобно» и «правда» совпадают. Иногда они расходятся — и он с радостью выдаст что-то, что звучит идеально и при этом неверно, потому что «звучит правильно» — это его настоящая мишень.
Проверяй всё, что имеет последствия: факты, числа, утверждения про деньги/право/медицину, код, который трогает реальные данные. Попроси его перепроверить себя или показать ход мысли. Доверяй ему как толковому стажёру, а не как оракулу.
В Claude Code момент «уверенно, но неправда» выглядит так: «Готово — собрал и проверил! ✓» …а оно сломано. Защита та же: твои глаза на результате. ВСЕГДА открывай то, что он собрал, и кликай сам. Его «работает» — это заявление, а не вердикт. Вердикт — твой.
Установка зафиксирована
ИИ — это усилитель, за которым ты приглядываешь, а не авторитет, которому ты подчиняешься. Держи это в голове, и ты обойдёшь тех, кто либо боится его, либо ему поклоняется.
Автор
Евгений Арсентьев
PhD · Директор по продукту (CPO) в healthtech-компании