GitHub-радар
Cactus Needle 3: модели 8–29 МБ для команд без интернета
Крошечные модели для распознавания команд прямо на устройстве: влезают в телефон, часы и браузер. Чтобы работали хорошо, нужна настройка под твои задачи — стоит $19 через их сервис.
Cactus Needle 3 — семейство моделей от 8 до 29 МБ для распознавания команд и структурированного извлечения данных на устройствах с ограниченными ресурсами: телефонах, часах, контроллерах умного дома и браузерах через WebAssembly. Внутри одни веса, из которых каждая глубина от 2 до 20 слоёв — самостоятельная модель, ты выбираешь размер под своё железо. Модель принимает команду пользователя, смотрит на список определённых действий и возвращает JSON: какое действие вызвать и с какими аргументами. Тонкая настройка с твоими примерами стоит $19 через сервис Cactus. Основатель прямо говорит в комментариях: хорошие результаты приходят после вдумчивого описания списка команд под твой конкретный сценарий.
Зачем это вайб-кодеру
Если ты строишь приложение, где пользователи отдают команды — умный дом, голосовое управление, локальный ассистент — Needle 3 позволяет обрабатывать эти команды прямо на устройстве без интернета и без API-платы. После настройки под конкретный список команд хорошо справляется с простыми, повторяющимися задачами. На широких бенчмарках заметно уступает большим моделям, и максимальный список инструментов — около 10 пунктов.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Зайди на https://cactuscompute.com/needle, прочитай документацию и подготовь набор из 30 примеров команд для умного дома (свет, таймеры, музыка, температура) в нужном формате для fine-tuning. Покажи готовый датасет перед отправкой.
Запустится на любом устройстве — телефоне, часах, браузере (WebAssembly). Видеокарта и большая оперативная память не нужны.
Открыть на GitHub▌ Ещё находки