GitHub-радар
Strata запускает модель на 125 млрд параметров на вашем игровом ПК
Strata — бесплатный установщик и локальный сервер, который запускает модель Qwen3.8-Flash-Next на игровом ПК или Mac с Apple Silicon и отдаёт её по OpenAI- и Anthropic-совместимому API.
Strata — это установщик и локальный сервер для модели Qwen3.8-Flash-Next (125 млрд параметров), которая по умолчанию рассчитана на серверное железо. Мастер первого запуска проверяет вашу видеокарту и память, спрашивает, какую версию модели ставить и насколько большой контекст нужен, затем сам скачивает готовую сборку движка под вашу карту (NVIDIA, AMD или Intel) или компилирует её на месте, если готовой нет. После установки модель запускается локальным веб-сервером на 127.0.0.1:8080, который отвечает по тем же протоколам, что OpenAI и Anthropic API — то есть к нему можно подключить Claude Code, Codex CLI, OpenCode и другие инструменты, просто указав другой адрес сервера. Модель умеет читать картинки по умолчанию, работает с файлами и кодом. Проект с MIT-лицензией, без телеметрии и без аккаунта: в репозитории есть отдельный документ о том, что именно скачивается и когда программа обращается в сеть.
Зачем это вайб-кодеру
Это для тех, кто хочет погонять большую модель офлайн и бесплатно, без подписки и без отправки своих файлов в чужое облако. По классу задач я бы не ставил эту связку рядом с тем, чем пользуюсь сам: Qwen — китайская модель, и для реальной работы агентом она заметно уступает Opus и Fable в Claude Code. Сильная сторона здесь не в качестве модели, а в том, что установка и подбор сборки под железо сделаны аккуратно: релизы подписаны, а установочный скрипт проверяет контрольную сумму скачанного перед запуском — для инструмента, который тянет и собирает бинарники, это редкость. Я бы использовал это для простых повторяющихся задач и экспериментов офлайн, а не как замену платному агенту.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Установи Strata с https://github.com/Niko1221/Strata — скачай установщик под мою систему со страницы релизов, пройди мастер настройки и запусти локальный сервер; подключи его как OpenAI-совместимый эндпоинт к Codex CLI или OpenCode и покажи, что модель отвечает на простой вопрос. Ключ модели не нужен, но спроси меня, если понадобится что-то докачать.
Нужны 32 ГБ оперативной и видеопамяти вместе и около 80 ГБ свободного диска: подойдёт Mac с чипом Apple Silicon (единая память) или игровой ПК с видеокартой NVIDIA/AMD от 12 ГБ — на обычном ноутбуке без современного чипа или видеокарты не запустится.
Открыть на GitHub▌ Ещё находки