GitHub-радар
Kimi K3 на своём Mac: локальный запуск через Deltafin
Deltafin позволяет запустить Kimi K3 — языковую модель Moonshot AI на 2,8 триллиона параметров — на одном Mac с Apple Silicon, с поддержкой OpenAI-совместимого API.
Deltafin — исследовательский проект для запуска Kimi K3 (языковая модель Moonshot AI на 2,8 триллиона параметров) на одном Mac с Apple Silicon или Linux-машине, загружая экспертов модели по требованию с диска. Архитектура линейки Kimi K2.x, на которой строится K3, совместима с DeepSeek V3; исследовательские заметки deltafin сравнивают подход с инференсом DeepSeek V4. Включает OpenAI-совместимый API-сервер — любое приложение, работающее с ChatGPT, можно переключить на него. На M1 Max с 64 ГБ оперативной памяти модель генерирует примерно один токен каждые 15 секунд. Полный локальный режим требует около 1,7 ТБ места, потоковый режим — 215 ГБ, но работает медленнее.
Зачем это вайб-кодеру
Kimi K3 — одна из наиболее мощных открытых языковых моделей; deltafin даёт возможность запустить её без облака и подписок. Компромисс честный: нужен мощный Mac, много места на диске и терпение. Зато это доказывает, что ИИ фронтирного масштаба уже сегодня работает полностью на личном железе.
▌ Ещё находки