GitHub-радар
Qwen3.8-27B перенастроили — думает меньше, работает быстрее
ukisai доработали Qwen3.8-27B от Alibaba так, чтобы она не тратила лишнее время на рассуждения: на 58% меньше токенов, скорость выше в 1.95 раза — и всё в GGUF для локального запуска.
ukisai доработали Qwen3.8-27B от Alibaba — мультимодальную 27B-модель с поддержкой текста и изображений — чтобы убрать многословные цепочки рассуждений, которые тормозят её в работе. Способ: штрафовать токены-маркеры, которые запускают длинный «думательный» разгон, плюс перенос обучения от ThinkingCap (BottleCap AI). Результат: медиана на 58.3% меньше токенов рассуждений, скорость выше в 1.95 раза, а на LiveCodeBench результат даже вырос — с 76.76% до 81.55%. Выходит в формате GGUF для llama.cpp, Ollama и vLLM. Лицензия Swift Open License 1.0 — бесплатно для физических лиц и компаний с выручкой до $1 млн в год; остальным нужна отдельная договорённость.
Зачем это вайб-кодеру
Если вы уже запускаете Qwen3.8-27B у себя, эта версия даёт заметно более быстрые ответы без смены железа. Для локальных агентских задач и повторяющейся текстовой работы прирост ощутим. Честно: это всё равно локальная 27B-модель — качество соответствующее, замены фронтирным моделям нет.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Поставь мне локально Swift-версию Qwen3.8-27B через Ollama: https://huggingface.co/ukisai/Swift-Qwen3.8-27B-GGUF — подбери квантованную версию под мой компьютер, запусти и покажи, как к ней обращаться.
Нужен Mac от 32 ГБ памяти или видеокарта на 24 ГБ — в 4-битной версии модель занимает около 16 ГБ.
Открыть на Hugging Face▌ Ещё находки