Новая модель Mercury 2.5 выдаёт почти 800 токенов в секунду

Компания Inception выпустила модель Mercury 2.5, и по замеру Artificial Analysis она выдаёт 781 токен в секунду. Это почти в семь раз быстрее медианной скорости моделей в её ценовом сегменте, где типичный показатель составляет 110 токенов в секунду. Токены стоят 0.25 доллара за миллион на входе и 0.75 доллара за миллион на выходе. Окно контекста у модели — 260 тысяч токенов.

Скорость такого уровня открывает быстрые агентные циклы, где ответ нужен почти сразу, например голосовые помощники или автодополнение кода. Но по индексу интеллекта Artificial Analysis модель получила 12 баллов и оказалась ниже медианы среди моделей похожей цены, так что для сложных агентных задач я бы её не ставил вместо Opus 5 или Fable 5.1. Быстрая и дёшевая модель хороша там, где сама задача простая и повторяющаяся, а не там, где нужно глубокое рассуждение.