GitHub-радар
Получай вероятность ответа вместо текста — быстро и бесплатно
Эта модель не пишет текст, а сразу возвращает вероятность для каждого варианта ответа — быстрее чем за полсекунды. Ты получаешь готовое решение, а не абзац, который потом разбирать вручную.
Это ИИ-модель для принятия решений, а не чат-бот: она не пишет текст, а выдаёт вероятность для каждого варианта ответа на твой вопрос.
Когда пригодится
Пригодится, если нужно быстро сортировать письма, тикеты или комментарии по готовым категориям — отдел, срочность, риск оттока. Для вопросов с десятками вариантов ответа возьми другой инструмент: модель путает похожие варианты.
Плюсы
- Отвечает быстрее чем за полсекунды даже на обычном процессоре.
- Работает на 100+ языках без дополнительной настройки.
- Лицензия Apache 2.0 — разворачивай у себя бесплатно.
- В 7,8 раза быстрее платного сервиса Jev на одном вопросе.
Минусы
- Путает похожие варианты, если их 20 и больше.
- Дообучение почти обязательно для серьёзной точности.
Как поставить — по шагам
- 1Открой агента (Claude Code, Codex) в папке своего проекта.
- 2Отправь агенту текст из блока ниже.
- 3Дай агенту несколько тестовых обращений в поддержку для проверки.
- 4Проверь вероятности по каждому вопросу и сравни с тем, что ожидал.
- 5Если точности не хватает — попроси агента дообучить модель на своих данных.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Поставь мне модель Laya от Convai Innovations по ссылке https://huggingface.co/convaiinnovations/laya — подключи её локально, прогони через неё несколько тестовых обращений в поддержку (отдел, срочность, риск оттока) и покажи вероятности по каждому вопросу.
Обычный ноутбук от 8 ГБ оперативки — видеокарта не нужна, на одном процессоре ответ приходит быстрее чем за полсекунды.
Открыть на Hugging Face▌ Ещё находки