Модель ИИ, которая выдаёт вероятность ответа, а не текст

GitHub-радар

Модель ИИ, которая выдаёт вероятность ответа, а не текст

GEV-26B-Decide отвечает на вопрос с вариантами ответа калиброванной вероятностью для каждого варианта, а не абзацем текста. Создана для повторяющихся решений — вроде отбора лидов или маршрутизации тикетов.

01autotrust/GEV-26B-Decide 1.1k896k загрузок/мес26B параметровtext-classification

Модель получает вопрос с вариантами ответов и для каждого варианта считает вероятность, а не пишет текст. Калиброванная вероятность значит, что число совпадает с тем, как часто ответ оказывается верным. Можно включить режим рассуждений: тогда модель сначала отвечает быстро, а если не уверена — думает шаг за шагом. Она также работает с изображениями. Она умеет кликать в нужную точку на экране или по фото с камеры управлять роборукой. Среди родственных моделей это самая быстрая по кликам — втрое быстрее JEV-27B-VL. С захватом предметов она справляется хуже: успех в 40% случаев против 75% у той же модели. Готового пакета для Ollama нет. Ollama — это инструмент, который запускает модели локально в один клик. Запускать GEV-26B-Decide нужно через vLLM или transformers — так называют инструменты для разработчиков, которые запускают модели ИИ. Нужен Mac с памятью от 32 ГБ или видеокарта на 24 ГБ.

Когда пригодится

Пригодится, если нужно классифицировать или оценивать поток однотипных решений — тикеты, лиды, отзывы. Не подходит, если нужен чат-ассистент, который пишет связный текст.

Плюсы

  • По собственному тесту AutoTrust обгоняет платного конкурента TypeSafe Jev
  • Режим рассуждений резко поднимает точность в логических головоломках
  • Самая быстрая модель семейства по кликам на экране
  • Работает и с текстом, и с изображениями

Минусы

  • Сравнение с конкурентом — собственный тест AutoTrust, не независимый
  • Хуже захватывает предметы роборукой: 40% против 75%
  • Нет готового пакета для Ollama, нужны vLLM или transformers

Как поставить — по шагам

  1. 1Открой страницу модели на Hugging Face — сайте, где выкладывают модели ИИ для скачивания: https://huggingface.co/autotrust/GEV-26B-Decide
  2. 2Проверь, что у тебя Mac с памятью от 32 ГБ или видеокарта на 24 ГБ.
  3. 3Открой агента (Claude Code, Codex) в папке своего проекта.
  4. 4Отправь агенту текст из блока ниже.
  5. 5Проверь, что агент запустил модель через vLLM или transformers и получил вероятности.
  6. 6Задай модели свой типовой вопрос с вариантами ответа и сравни вероятности.

Текст для агента

Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):

Разберись, как запустить локально модель GEV-26B-Decide от AutoTrust: https://huggingface.co/autotrust/GEV-26B-Decide — через vLLM или transformers, задай ей типовой вопрос с вариантами ответа и покажи, какую вероятность она вернёт для каждого.

Нужен Mac от 32 ГБ памяти или видеокарта на 24 ГБ — у модели 26 миллиардов параметров (активны из них около 4 миллиардов на токен). Готовой сборки под Ollama нет.

Открыть на Hugging Face