GitHub-радар
Голосовой ИИ-помощник прямо на твоём компьютере
Nemotron 3.5 Bolt — маленькая модель для быстрых голосовых помощников и простых интерфейсов на устройстве. После установки у тебя будет локальный помощник, который отвечает без интернета и подписок.
Это небольшая языковая модель от NVIDIA, сделанная на базе модели Gemma. Она отвечает голосом или текстом прямо на твоём устройстве, без обращения в облако.
Когда пригодится
Пригодится для простого локального голосового помощника или встроенного интерфейса без подписки. Не подойдёт для сложного кода или серьёзных рассуждений — для этого есть более крупные модели.
Плюсы
- Работает на обычном ноутбуке — от 8 ГБ оперативной памяти
- Не нужны подписка и облако — всё крутится у тебя
- Можно выбрать размер файла под память своего компьютера
- Понимает десятки языков, включая русский
Минусы
- Сделана для простых задач — не для сложного кода
- Не заменит модель для серьёзной работы с ИИ
Как поставить — по шагам
- 1Открой своего ИИ-агента (Claude Code, Codex) в папке своего проекта.
- 2Отправь агенту текст из блока ниже.
- 3Дай агенту подобрать версию модели под объём памяти твоего ноутбука и скачать её с Hugging Face.
- 4Проверь, что агент запустил модель через llama.cpp или Ollama.
- 5Задай модели тестовый вопрос и убедись, что получаешь ответ.
Текст для агента
Текст для шага с агентом — скопируй и отправь (Claude Code, Codex, любой):
Поставь мне модель NVIDIA Nemotron 3.5 Bolt E4B локально: https://huggingface.co/unsloth/NVIDIA-Nemotron-3.5-Bolt-E4B-GGUF — подбери версию под мой ноутбук, запусти через llama.cpp или Ollama и покажи, как к ней обращаться.
Обычный ноутбук от 8 ГБ оперативки — самая лёгкая версия занимает около 3,5 ГБ, сбалансированная — около 5 ГБ.
Открыть на Hugging Face▌ Ещё находки