llama.cpp дошёл до версии 1.0
Открытый проект llama.cpp, который запускает языковые модели на обычных компьютерах, выпустил версию 1.0.0 и ввёл строгие правила совместимости API.
llama.cpp — open-source программа, которая запускает языковые модели ИИ на обычных компьютерах без облака — добралась до версии 1.0.0. Команда ggml-org выпустила её после трёх с половиной лет разработки. Движок внутри, который называется ggml, теперь поддерживает больше 150 разных типов моделей.
У разработчиков, которые строят софт на основе llama.cpp, раньше была проблема. Любое обновление могло незаметно поменять работу интерфейса программы и без предупреждения сломать их код. Версия 1.0.0 вводит систему, привычную для зрелого софта: теперь любое изменение, которое ломает этот интерфейс, должно сопровождаться скачком первой цифры версии.
В анонсе нет ни тестов скорости, ни сравнений с конкурирующими движками — только эти новые правила версионирования. Выполнят ли обещание, станет ясно только на следующем крупном релизе: тогда будет видно, действительно ли поломка интерфейса запускает это изменение номера.
Источник: huggingface.co
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме

Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи