GitHub-радар
ИИ-модель для кода и агентов, которую можно запустить локально
Это урезанная и сжатая версия крупной китайской модели DeepSeek, заточенная под код и вызов инструментов. Ты получаешь модель, которая помещается на одном мощном компьютере вместо облака — но с потерей части возможностей.
ИИ-модель, у которой убрали половину «экспертных» блоков и сжали вес файлов, чтобы она умещалась на одном мощном компьютере.
Когда пригодится
Подойдёт, если хочешь попробовать большую модель для кода офлайн на мощном железе. Не подойдёт для ежедневной серьёзной работы — она слабее облачных помощников.
Плюсы
- Файл модели меньше: 72 ГБ вместо 138 ГБ
- Сохраняет 94,8% качества по SWE-bench, 98,7% по LiveCodeBench
- Умеет работать и с изображениями через отдельный файл
- Работает на одном компьютере без облака
Минусы
- Нужно 96–128 ГБ памяти и около 200 ГБ на диске
- В живой агентной работе хуже, чем в тестах
- Не замена облачному помощнику для ежедневной работы
Как поставить — по шагам
- 1Проверь, что на компьютере от 96 ГБ памяти (лучше 128) и 200 ГБ свободного места на диске.
- 2Открой ИИ-агента для кода (Claude Code, Codex) в папке своего проекта.
- 3Отправь агенту текст из блока ниже.
- 4Дай агенту скачать модель с Hugging Face (сайта с ИИ-моделями) и запустить её через llama.cpp — бесплатную программу для запуска моделей.
- 5Проверь, как модель справляется с твоим кодом и вызовом инструментов, прежде чем доверять ей серьёзные задачи.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Поставь мне модель DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder: https://huggingface.co/ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-Coder-GGUF — запусти её через llama.cpp у меня на компьютере и покажи, как с ней работать с кодом и вызовом инструментов.
Нужен компьютер с памятью от 96 ГБ (лучше 128) и около 200 ГБ свободного места на диске — например, Mac Studio с объединённой памятью от 128 ГБ или мощная рабочая станция с большой видеокартой. Обычный ноутбук с 16–32 ГБ не справится.
Открыть на Hugging Face▌ Ещё находки