GitHub-радар
GLiNER2.5-Decide: маленькая модель сортирует сообщения сама
Компания Fastino выпустила компактную модель, которая с одного захода раскладывает любой текст по вашим собственным категориям — жалоба это или вопрос, спам или нет, нужен ли человек. Работает без обучения под конкретную задачу и без своего облака.
GLiNER2.5-Decide от Fastino — это мультилейбловый классификатор на 340 млн параметров. Ты задаёшь список меток (например, намерения клиента, категории тикетов, тональность, приоритет, спам или не спам) прямо во время работы, и модель предсказывает сразу несколько меток для входного текста — без промптов и без файнтюна под конкретную задачу. В своих внутренних тестах на 17 разных доменах, по 300 тестовых примеров на домен, они получают точность полного совпадения 60,2%, что выше, чем у гораздо более крупной Qwen3.5-4B (56,4%), хотя эта модель примерно в двенадцать раз меньше. Они отмечают, что это не универсальная модель и она не умеет рассуждать или объяснять себя — она просто выдаёт запрошенные метки. Модель доступна для инференса на CPU/GPU через крошечный python-пакет gliner2.
Зачем это вайб-кодеру
Такая модель отлично подходит, если тебе нужно раскладывать текстовые данные (тикеты поддержки, отзывы, лиды) по категориям. Вместо того чтобы платить кому-то за обращения к большим моделям, можно попросить агента написать небольшой скрипт, который автоматизирует этот процесс. Конечно, эта модель очень узкоспециализированная и больше ничего не умеет, кроме классификации текста по выбранным тобой меткам — здесь нет ни генерации, ни объяснений, только классификация. Но если тебе нужна именно классификация текста, это отличный выбор, поскольку по их внутренним бенчмаркам она работает лучше гораздо более крупных универсальных моделей.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Поставь мне модель GLiNER2.5-Decide от компании Fastino: https://huggingface.co/fastino/GLiNER2.5-Decide — установи пакет gliner2, напиши небольшой скрипт, который раскладывает мои входящие сообщения по категориям вроде «жалоба», «вопрос», «спам», и покажи результат на трёх примерах.
Обычный ноутбук без видеокарты — модель весит около 1 ГБ и по описанию авторов работает и на процессоре, и на видеокарте.
Открыть на Hugging Face▌ Ещё находки