Новая модель Mercury 2.5 способна выдавать почти 800 токенов в секунду

Inception выпустила свою новую модель Mercury 2.5. По нашим замерам на Artificial Analysis, она выдаёт 781 токен в секунду. Это почти в семь раз больше медианного показателя для моделей такой же цены ($0,25 за миллион токенов на входе, $0,75 за миллион на выходе) — а он составляет 110 токенов в секунду. Размер контекста — 260 тысяч токенов.

С такой быстрой моделью можно строить быстрые агентные циклы, когда ответ нужен мгновенно, — например, голосовые помощники или автодополнение кода. Однако по индексу интеллекта Artificial Analysis она набрала всего 12 баллов и оказалась ниже медианы среди моделей похожей цены, так что для более сложных агентных задач я бы не советовал использовать её вместо Opus 5 или Fable 5.1. Быстрые и доступные модели стоит использовать для простых повторяющихся задач, но не ждите от них способности справляться со сложными рассуждениями.