GitHub-радар
AutoTrust-JEV-27B: даёт вероятности вариантов, а не текст
AutoTrust-JEV-27B v1.1 — модель для принятия решений: дай ей вопрос и несколько вариантов ответа, и она посчитает, насколько вероятен каждый, вместо того чтобы писать связный текст. Это позволяет встроить быструю и дешёвую классификацию в свой проект.
Это не чат-бот: модель принимает вопрос вместе со списком вариантов ответа и возвращает вероятность для каждого — авторы называют это «моделью для принятия решений».
Когда пригодится
Пригодится, если нужно быстро и дёшево классифицировать запросы или выбирать, какой инструмент вызвать, внутри своего агента или скрипта. Не подходит, если нужен обычный разговорный ИИ или генерация текста.
Плюсы
- Дешевле обычного чат-бота для простых решений о категории
- Сильнее предыдущих моделей JEV-27B и Jev 1.14 в классификации
- Лучший результат — выбор инструмента для автоматизации задачи
- Открытая лицензия Apache 2.0, можно использовать свободно
Минусы
- Не для диалогов и генерации текста — только вероятности вариантов
- Сложнее установить: нужен сервер vLLM, а не простой формат GGUF
- Хуже старой модели Jev 1.14 в сложных задачах на знания и рассуждение
Как поставить — по шагам
- 1Проверь, что у тебя Mac от 32 ГБ памяти или видеокарта на 24 ГБ — без этого модель не запустится.
- 2Открой кодового ассистента (Claude Code, Codex) в папке своего проекта.
- 3Отправь агенту текст из блока ниже.
- 4Дождись, пока агент установит и поднимет модель через сервер vLLM.
- 5Проверь результат: агент должен прислать вероятности для каждого из трёх вариантов ответа.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Разверни мне модель AutoTrust-JEV-27B-v1.1: https://huggingface.co/autotrust/AutoTrust-JEV-27B-v1.1 — подними её через vLLM у меня на компьютере, дай ей пример обращения клиента с тремя вариантами ответа и покажи, какие вероятности она на них поставит.
Нужен Mac от 32 ГБ памяти или видеокарта на 24 ГБ — модель отдаётся в формате для vLLM, поэтому разворачивать её сложнее, чем обычную GGUF-модель для Ollama.
Открыть на Hugging Face▌ Ещё находки