Мартин Фаулер: почему он не любит LLM

Мартин Фаулер, один из лучших авторов, пишущих о разработке программного обеспечения, недавно опубликовал статью под названием «I Don't Like LLMs». Главная проблема, которую он видит, — в том, что они выдают неправильные ответы с той же уверенностью, что и правильные. Ещё он отмечает, что их извинения «фальшивые».

Это справедливое замечание, но к агентам оно не применимо. У агентной системы с конвейером, включающим инструмент под конкретную задачу, галлюцинаций не будет (это сразу было бы заметно), поэтому я бы не стал проводить такое сравнение.