Anthropic ускорила длинные диалоги в Claude на 35%

Anthropic выпустила цепочки сообщений для своего Messages API — системы, которая лежит в основе Claude. Обычно ИИ-агент при каждом запросе пересылает всю историю переписки целиком. С цепочками сообщений агент отправляет только то, что изменилось с последнего сообщения. Для диалогов от 500 000 до 1 000 000 токенов (кусочков текста, которые читает модель) медианное время до первого слова ответа падает примерно на 35%. Claude всё равно читает весь диалог на каждом шаге, поэтому общий расход токенов и цена остаются такими же. Фича включена по умолчанию для большинства пользователей Claude Code, кодового ассистента Anthropic, а также доступна через AWS, Microsoft Foundry и Google Cloud.

Это исправление заточено именно под агентов, которые работают часами, а не минутами: кодовых агентов, которые правят файлы шаг за шагом, или агентов, которые делают скриншоты экрана и действуют по ним. До этого на каждом шаге приходилось перечитывать весь прошлый диалог, так что долгие сессии ощущались как нарастающее ожидание перед началом ответа. Экономия — в скорости внутри одной долгой сессии, а не в цене.