GitHub-радар
Qwen3.8-27B Cold Fusion: мозг побыстрее, работает офлайн
DavidAU дообучил Qwen3.8-27B от Alibaba, чтобы модель рассуждала на 50–90% меньшим числом шагов. Формат GGUF. Запускается локально в LM Studio или Ollama.
Qwen3.8-27B — мощная мультимодальная модель от Alibaba, но она склонна проходить много шагов рассуждения при формировании каждого ответа. Это отлично подходит для аналитических задач, но для обычного общения — уже перебор. DavidAU дообучил эту модель с помощью Cold Fusion + GAIN, чтобы сократить число шагов рассуждения на 50–90% без потери точности. С помощью вариаций MTP можно дополнительно поднять скорость генерации до 90+ токенов в секунду. Модель распространяется в формате GGUF и работает локально в LM Studio, Ollama и llama.cpp. Размер контекста — 256 000 токенов (до 1 миллиона). Число шагов, выполняемых при обработке каждого запроса, можно подстроить под нужный баланс скорости и точности.
Зачем это вайб-кодеру
Та же Qwen3.8-27B, которую вы, возможно, уже знаете, но быстрее справляется с обычными вопросами. Работает полностью офлайн. Не нужны ни подписки, ни API-ключи. Более 238 000 загрузок за 30 дней показывают, что сообществу хочется запускать свою версию Qwen3.8 локально.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Поставь мне Qwen3.8-27B в версии Cold Fusion от DavidAU локально: https://huggingface.co/DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF — подбери квантованный GGUF под мой Mac, запусти через Ollama и покажи, как переключать режим рассуждения
Mac от 32 ГБ памяти или видеокарта на 16 ГБ — в 4-битной версии модель занимает около 16 ГБ
Открыть на Hugging Face▌ Ещё находки