GitHub-радар
Qwen3.8-27B GGUF: локальный запуск с распознаванием изображений
Qwen3.8-27B (мультимодальная модель от Alibaba на 27B) сконвертирована в квантизацию Dynamic 3.0 GGUF. 12 вариантов квантования, контекст 262K, понимание изображений, работает из коробки в Ollama прямо на вашем ноутбуке!
Мы выложили Qwen3.8-27B (мультимодальную модель от Alibaba на 27B) в виде квантизаций Dynamic 3.0 GGUF для локального запуска через Ollama и llama.cpp. Эта модель умеет понимать изображения, изначально поддерживает длину контекста 262K (с помощью RoPE можно масштабировать до 1M токенов) и заточена под агентность и вызов инструментов. Dynamic 3.0 даёт на выбор 12 разных уровней квантования (от IQ1, ~6ГБ, до BF16, ~55ГБ), так что можно подобрать нужный баланс между производительностью и требованиями к железу. Оставляя ключевые веса менее сжатыми, мы, как нам кажется, нашли способ обойти по точности другие квантования такого же размера.
Зачем это вайб-кодеру
Удобный способ запустить Qwen3.8-27B локально. Скачиваете один файл, закидываете в Ollama — и вот у вас уже модель с распознаванием изображений, которая обрабатывает картинки и документы прямо на устройстве, без необходимости выходить в сеть. Даже 2-битная версия отлично работает на Mac с 16ГБ памяти, и никакой GPU для этого не нужен!
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Поставь мне Qwen3.8-27B от Alibaba локально через Ollama: https://huggingface.co/unsloth/Qwen3.8-27B-GGUF — подбери 4-битную GGUF-версию под мой Mac, установи и покажи, как отправить первый запрос с картинкой.
4-битная версия занимает около 16 ГБ — нужен Mac от 32 ГБ памяти или видеокарта на 24 ГБ. 2-битная (~7 ГБ) запустится на Mac от 16 ГБ с некоторой потерей качества.
Открыть на Hugging Face▌ Ещё находки