Cloudflare сделала модель дешевле и быстрее LLM

Cloudflare, компания, занимающаяся интернет-инфраструктурой, выпустила предварительную версию новой модели Clairic на Workers AI — своей платформе для запуска ИИ-моделей. В отличие от обычной большой языковой модели (LLM), которая генерирует ответ слово за словом, Clairic вытаскивает нужные значения из документа за один проход. В тесте на обработке страховой заявки пайплайн с Clairic справился за 19.3 секунды — против 61.7 секунды для подхода, где универсальная языковая модель GLM-5.3 сама выполняла все три шага. Это примерно в 3.2 раза быстрее, и по словам Cloudflare, связка на основе Clairic стоит на 49% дешевле на миллион обработанных заявок. Модель возвращает такие поля, как номер счёта, дата выплаты или сумма ущерба, причём к каждому прикреплена оценка уверенности.

Результат указывает на разделение труда внутри ИИ-пайплайнов. Шаги, где нужно просто вытащить несколько полей из документа, не обязательно прогонять через полноценную модель с рассуждениями. Узкая специализированная модель справляется с этой частью быстрее и дешевле, оставляя более крупную модель для шагов, где рассуждения действительно нужны. Cloudflare показала этот разрыв на рутинной задаче — обработке страховой заявки, а не на бенчмарке, созданном для впечатления, и поэтому этим цифрам легче верить, чем типичному тесту, о котором отчитывается сама лаборатория.