GitHub-радар
Компактная модель для вызова инструментов на твоём компьютере
Это сжатая версия модели Qwen3.8-27B — она умеет вызывать инструменты и запускается прямо на ноутбуке или Mac, а не на сервере с десятками гигабайт памяти.
Это уменьшенная версия большой языковой модели Qwen3.8-27B. Она понимает запросы и умеет вызывать внешние инструменты для ИИ-агента.
Когда пригодится
Подходит, если нужен локальный агент для простых повторяющихся задач на своём компьютере. Не подойдёт, если нужны сложная математика или глубокие рассуждения.
Плюсы
- Весит 7.89 ГБ вместо 54 ГБ — помещается на обычный ноутбук
- Вызывает инструменты лучше оригинала: 88 из 120 задач против 84
- Сохраняет 96% качества оригинала в среднем по 9 тестам
- Можно подключить распознавание изображений отдельным файлом
Минусы
- Хуже решает сложную математику: 79.2 балла против 96.7 у оригинала
- Плохо справляется с головоломками на уровне букв — палиндромы, подсчёт гласных, алфавитный порядок
- Примерно у пятой части параллельных вызовов инструментов — мелкие ошибки формата
Как поставить — по шагам
- 1Проверь, что на компьютере (ноутбук или Mac) от 16 ГБ оперативной памяти — файл модели весит около 8 ГБ.
- 2Открой своего ИИ-агента (Claude Code, Codex) в папке проекта.
- 3Отправь агенту текст из блока ниже.
- 4Дай агенту скачать модель, запустить её через llama.cpp и подключить как модель для вызова инструментов.
- 5Проверь результат: попроси агента дать модели тестовую задачу с вызовом инструмента.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Поставь мне эту сжатую версию Qwen3.8-27B от Underdog локально: https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0 — запусти через llama.cpp, подключи как модель с вызовом инструментов для агента и покажи, как ей передать задачу.
Обычный ноутбук или Mac от 16 ГБ оперативки — квантованный файл весит около 8 ГБ.
Открыть на Hugging Face▌ Ещё находки