Мартин Фаулер: почему он не любит LLM

Мартин Фаулер — один из самых известных авторов о разработке программного обеспечения — написал статью «I Don't Like LLMs». Главная претензия: модели выдают выдуманные факты с той же уверенностью, что и верные. Когда их ловят на ошибке, в ответ только «фальшивое раскаяние».

Претензия правильная, но она про чат-бот, а не про агентов. В пайплайне, где задача конкретная и у агента есть инструменты, галлюцинация — это ошибка в коде, которую видно сразу. Я бы не оценивал эти два режима одной меркой.