GitHub-радар
Бесплатная локальная модель для сортировки лидов и комментариев
Много лидов и комментариев? А запросы через API влетают в копеечку? Эта модель обрабатывает текст и сразу несколько вопросов и выдаёт один-единственный ответ с вероятностями: это горячий лид? Это спам? Это токсично? Локально и бесплатно, а маленькая версия — очень быстрая!
Обрабатывает текст один раз и выдаёт несколько готовых ответов (вопросов) о нём (например: «Горячий лид / посетитель?», «Спам?», «Кто должен этим заниматься?»). На выходе — числовое значение, а не текст («Спам», «0.89»). Работает локально на твоём Mac. Бесплатно. Маленькая модель работает очень быстро.
Зачем это вайб-кодеру
Если классификация лидов/комментариев через запросы к модели может дорого обходиться при масштабировании, этот вариант позволяет делать то же самое локально и бесплатно, а маленькая модель отрабатывает невероятно быстро. Правда, точность ниже, чем у первой модели, на незнакомых данных (0.80 против 0.86 на их тестовом наборе). Для несерьёзных задач — отлично подходит. Для серьёзных — не очень.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Разверни на моём Маке модель kev-4b и сделай на ней разбор входящих заявок: горячий клиент или нет, покажи пример ответа
Работает на Маке с чипом M-серии: 32 ГБ памяти для основной версии, маленькая пойдёт и на меньшем
Открыть на GitHub▌ Ещё находки