GitHub-радар
35B-модель в 3 ГБ памяти — Edge0 запустили на обычном Маке
Edge0 выпустили 35B MoE-модель, которая хранит веса на SSD и подгружает нужные куски по мере генерации — активная память 3 ГБ на Apple Silicon.
Edge0 выпустили 35B MoE-модель (на базе Qwen3.5-35B), которая работает на Apple Silicon через SSD-offloading: веса хранятся на диске и загружаются нужными кусками по мере генерации, а в оперативной памяти в каждый момент находится лишь около 3 ГБ. Обычная 35B-модель требует держать все веса в RAM — 64 ГБ и больше. Чекпоинт на диске занимает 19.6 ГБ. Скорость генерации — около 15 токенов в секунду; заполнение длинного промпта — до 140 токенов в секунду. Модель управляется через CLI-инструмент edge0, устанавливается через pip, поддерживает режимы чата и API-сервера.
Зачем это вайб-кодеру
Если у вас Mac на Apple Silicon с ~20 ГБ свободного места на SSD, теперь можно попробовать модель класса 35B у себя — раньше для этого нужно было специальное железо. Качество соответствует хорошей открытой 35B-модели: подходит для экспериментов, простых задач и понимания возможностей открытых моделей такого размера. В серьёзной работе Claude или Fable сделают то же самое надёжнее.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Поставь мне модель Edge0 локально: https://huggingface.co/Edge0/Edge0-35B-A3B-preview — установи пакет edge0 по инструкции в README, запусти в режиме чата и покажи, как с ней разговаривать.
Нужен Mac на Apple Silicon с ~20 ГБ свободного места на SSD — модель хранит веса на диске и загружает нужные части в оперативную память по ходу генерации, суммарная нагрузка на RAM около 3 ГБ.
Открыть на Hugging Face▌ Ещё находки