GitHub-радар
MiniCPM5-2B — локальная модель для повседневных задач
OpenBMB только что выпустили MiniCPM5-2B, модель для локального использования, дружественную к Ollama/LM Studio. Разбираемся, насколько она хороша на самом деле.
MiniCPM5-2B — это модель на 2 млрд параметров от OpenBMB (часть их серии MiniCPM5), предназначенная для локального и on-device использования. По словам OpenBMB, это «лучшая открытая модель своего размера» по результатам их тестов, и она даже конкурирует с моделями на 4B. Она хороша в коде, математике, работе с длинным контекстом, инструментами и агентностью. Репозиторий с GGUF-файлами для llama.cpp, Ollama и LM Studio можно найти здесь. Сжатая версия Q4_K_M весит около 1,6 ГБ, а 8-битная версия — около 2,7 ГБ. OpenBMB также выложили обучающие данные для этой модели, а веса доступны под лицензией Apache 2.0.
Зачем это вайб-кодеру
Так насколько же хороша эта модель? Ну, это модель на 2B параметров, так что ей далеко до моей основной рабочей лошадки Opus 5 в Claude Code, но, по словам OpenBMB, это лучшая открытая модель своего размера по их тестам. И всё же это всего 2B параметров. Я бы рекомендовал использовать эту модель только для локальных экспериментов и лучшего понимания локальных моделей, либо для простых и однотипных задач вроде сортировки текста или извлечения нескольких атрибутов. Точно не для какой-либо реальной агентности, и не стоит ждать от неё всех этих «свободных агентов у вас на устройстве». Плюс в карму за лицензию Apache 2.0 и открытые данные.
Как поставить
Скопируйте и отправьте своему агенту — Claude Code, Codex, любому:
Поставь мне модель MiniCPM5-2B локально: https://huggingface.co/openbmb/MiniCPM5-2B-GGUF — возьми версию Q4_K_M, запусти через Ollama и дай мне попробовать на ней одну простую задачу.
Обычный ноутбук от 8 ГБ оперативки — сжатая версия модели весит около 1,6 ГБ.
Открыть на Hugging Face▌ Ещё находки