GitHub-радар
Мгновенный классификатор текста на 100+ языках без ожидания ответа
Это движок для быстрых типизированных решений по тексту: вместо того чтобы генерировать ответ слово за словом, он одним проходом выдаёт готовый вердикт — выбор из вариантов, оценку или да/нет. Твоё приложение получает результат за миллисекунды, а не ждёт, пока модель «напишет» ответ.
Это модель, которая классифицирует текст — выбор из заданных вариантов, числовая оценка или ответ да/нет — за один проход, без пошаговой генерации.
Когда пригодится
Пригодится, когда нужно быстро и дёшево рассортировать много текста по готовым категориям (тикеты, отзывы, письма) на разных языках; не подходит для сложных рассуждений или когда вариантов выбора очень много — там точность падает и лучше взять полноценную языковую модель.
Плюсы
- Отвечает почти мгновенно — около 33 мс на одной GPU
- Работает и без видеокарты — модели весят 320–420 млн параметров
- Понимает английский и 100+ других языков с автоопределением
- Код и веса открыты по Apache 2.0, можно развернуть у себя
Минусы
- Без дообучения на своих задачах точность всего 0.362
- Плохо справляется, когда вариантов выбора много (0.425 на 77 вариантах)
Как поставить — по шагам
- 1Установи Laya командой pip install laya в своём проекте.
- 2Открой README на github.com/NandhaKishorM/laya и прочитай пример с Router.
- 3Отправь агенту текст из блока ниже.
- 4Проверь, на какую модель (английскую или многоязычную) и с какой уверенностью агент маршрутизировал каждую фразу.
- 5Если точность на твоих данных низкая, дообучи модель на другом чекпоинте, как описано в README.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Разверни Laya из https://github.com/NandhaKishorM/laya по инструкции из README (pip install laya), прогони через встроенный Router фразу на английском и фразу на другом языке и покажи мне, на какую модель и с какой уверенностью он маршрутизирует каждую.
Запустится и без видеокарты: модели весят около 320–420 миллионов параметров и работают на обычном CPU, а на простой видеокарте уровня T4 или на Apple Silicon один вопрос занимает около 33 миллисекунд.
Открыть на GitHub▌ Ещё находки