Свой локальный ИИ-помощник по коду — без подписки и облака

GitHub-радар

Свой локальный ИИ-помощник по коду — без подписки и облака

Это облегчённая версия модели Qwen для генерации кода — её можно поставить на свой компьютер и пользоваться без подписки и облака.

01ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF 172148k загрузок/мес176.9B параметровimage-text-to-text

Это урезанная версия большой нейросети для написания кода: у неё убрали половину внутренних блоков, чтобы она поместилась на обычный компьютер, а не только на сервер.

Когда пригодится

Пригодится, если хочешь бесплатно и локально решать простые задачи по коду; для сложных многошаговых проектов вроде Claude Code на Opus она слабее и не подойдёт.

Плюсы

  • Работает у тебя локально — без подписки и подключения к интернету.
  • Помещается в память одной видеокарты или Mac от 32 ГБ.
  • На простых задачах по коду теряет всего около 1% качества.
  • По-прежнему понимает изображения, а не только текст кода.

Минусы

  • На длинных самостоятельных задачах качество падает примерно на 9%.
  • Нужна мощная видеокарта или Mac — от 32 ГБ памяти.
  • Это экспериментальный релиз, авторы сами просят присылать отзывы.

Как поставить — по шагам

  1. 1Открой ИИ-агента (Claude Code, Codex) в папке своего проекта.
  2. 2Отправь агенту текст из блока ниже — он сам скачает модель и настроит Ollama или llama.cpp.
  3. 3Проверь, что на компьютере есть видеокарта на 32 ГБ или Mac с памятью от 32 ГБ.
  4. 4Попроси агента показать, как ставить ей задачи по коду после установки.
  5. 5Дай модели простую задачу по коду и сравни результат с обычным агентом.
  6. 6Если задача длинная и сложная, вернись к обычной большой модели для надёжности.

Текст для агента

Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):

Поставь мне эту модель для работы с кодом локально: https://huggingface.co/ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF - это готовый GGUF-файл, запусти его через Ollama или llama.cpp (нужен Mac от 32 ГБ памяти или видеокарта на 32 ГБ) и покажи, как ставить ей задачи по коду.

Нужен Mac от 32 ГБ единой памяти или видеокарта на 32 ГБ - столько в сжатом виде занимает сама модель.

Открыть на Hugging Face