Как Claude сам чинит свою память между сессиями

Исследовательская компания Anthropic опубликовала статью о том, как их модели ИИ работают с долговременной памятью. Они называют это «сновидениями». Когда ИИ ничем не занят, он просматривает прошлые взаимодействия (логи сессий) и правит старые заметки. Чтобы это показать, они дали своему Claude поиграть в Pokemon. Старая версия, Claude Sonnet 3.7, создала 413 разных файлов памяти, разложенных по 225 папкам. Она получила всего один значок в игре — это показатель прогресса. Новая версия, Claude Fable 5, создала всего 9 файлов в 2 папках. Был ещё один общий файл («global.md»). Она получила 4 значка.

Нам стоит иметь это в виду, когда мы проектируем свои собственные ИИ. Если твой ИИ копит слишком много деталей в долговременной памяти, он может захлебнуться в них, как Claude Sonnet 3.7. В другом эксперименте они обнаружили, что если велеть ИИ сверяться со своими заметками при ответе, это почти вдвое увеличило его результат в тесте. Ещё они велели ему перепроверять заметки на ошибки.