Бесплатная модель для мгновенных решений вместо платного Jev

GitHub-радар

Бесплатная модель для мгновенных решений вместо платного Jev

Clef-Flash — модель от Cloudflare, которая вместо текста выдаёт процент вероятности для каждого варианта ответа на твой вопрос за доли секунды.

01Cloudflare/clef-flash 3836.4k загрузок/мес9.4B параметровimage-text-to-text

Это модель, которая принимает ситуацию (текст, таблицу, фото или видео) и список вопросов с вариантами ответов — и сразу выдаёт, насколько вероятен каждый вариант, без лишнего текста.

Когда пригодится

Пригодится, если ты платишь сервису типа Jev за классификацию, маршрутизацию обращений или тегирование и хочешь делать это у себя бесплатно; если нужен обычный текстовый чат-бот — бери другую модель.

Плюсы

  • Отвечает быстрее чем за десятую долю секунды — в разы быстрее Jev.
  • Точнее Jev на бытовых сценариях: 97.7% против 52.3%.
  • Выдаёт готовое число-вероятность, не нужно разбирать текст.
  • Бесплатная и открытая лицензия Apache-2.0.

Минусы

  • На реальных бизнес-кейсах, например инвойсах, Jev точнее (83.1% против 73.3%).
  • Для полноценной работы нужен Python-код автора, а не просто готовый чат.
  • Без видеокарты трюк с вероятностями работает медленно или не полностью.

Как поставить — по шагам

  1. 1Открой агента (Claude Code, Codex и т.п.) в папке своего проекта.
  2. 2Отправь агенту текст из блока ниже.
  3. 3Дождись установки: нужно от 16 ГБ оперативной памяти, для полноценной работы — видеокарта.
  4. 4Дай агенту свой сценарий и список вопросов с вариантами ответов.
  5. 5Проверь, что агент вернул число-вероятность по каждому вопросу, а не обычный текст.
  6. 6Прежде чем доверять модели важные решения, сравни её ответы со своими данными или с Jev.

Текст для агента

Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):

Подними мне модель Cloudflare Clef-Flash по инструкции с её карточки на Hugging Face: https://huggingface.co/Cloudflare/clef-flash — поставь через собственный Python-код модели (не просто через Ollama), прогони через неё мой текст и мои вопросы и покажи, какое число она выдаёт по каждому вопросу.

Модель на 9 млрд параметров, под Ollama есть готовая квантованная версия — потянет ноутбук от 16 ГБ оперативки. Но для настоящего трюка (мгновенный классификатор с числом по каждому вопросу) нужен Python-код автора, и быстрее он работает с видеокартой — в своих тестах Cloudflare использовала серверную H200.

Открыть на Hugging Face