GitHub-радар
Своя ИИ-модель дома: отвечает почти в 2 раза быстрее обычной
Это готовая нейросеть, которую можно запустить у себя на компьютере — она думает быстрее обычной версии и не требует облака.
Это дообученная версия модели Qwen3.8-27B от Alibaba — работает на твоём компьютере без интернета и отвечает быстрее исходной версии.
Когда пригодится
Пригодится, если нужен локальный помощник для простых задач и важны приватность или экономия; не жди от неё уровня топовых облачных моделей.
Плюсы
- Думает почти в 2 раза быстрее обычной версии модели
- Тратит на рассуждения на 58% меньше токенов (кусочков текста)
- Работает локально — без интернета и без оплаты запросов
- Понимает и текст, и изображения
Минусы
- Нужен мощный компьютер: Mac от 32 ГБ или видеокарта на 24 ГБ
- Модель среднего уровня — не дотягивает до топовых облачных
- Коммерческое использование с выручкой выше $1M требует отдельного договора
Как поставить — по шагам
- 1Открой своего ИИ-агента (Claude Code, Codex) в папке своего проекта.
- 2Отправь агенту текст из блока ниже.
- 3Дай агенту установить Ollama (инструмент для запуска моделей) и саму модель.
- 4Подожди, пока агент подберёт версию модели под память твоего компьютера.
- 5Проверь, что модель запустилась и отвечает на тестовый вопрос.
- 6Дай ей свою первую задачу и сравни скорость с обычными ответами.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Поставь мне локально Swift-версию Qwen3.8-27B через Ollama: https://huggingface.co/ukisai/Swift-Qwen3.8-27B-GGUF — подбери квантованную версию под мой компьютер, запусти и покажи, как к ней обращаться.
Нужен Mac от 32 ГБ памяти или видеокарта на 24 ГБ — в 4-битной версии модель занимает около 16 ГБ.
Открыть на Hugging Face▌ Ещё находки