Hugging Face
Генерация кодаllama.cppggmlHugging Faceлокальный ИИинференс

llama.cpp и ggml вышли в версии 1.0.0 и перешли на семантическое версионирование

Сергей Сергеев, редактор gen-hub.ru
Сергей Сергеев
Редактор gen-hub.ru
·3 мин чтения
llama.cpp и ggml вышли в версии 1.0.0 и перешли на семантическое версионирование

Команда ggml-org, которая работает в Hugging Face, 13 ноября 2026 года выпустила llama.cpp v1.0.0 и ggml v1.0.0. Проекту около 3,5 лет, и версия 1.0 здесь прежде всего обязательство перед теми, кто строит продукты на его библиотеках.

Что поменялось в правилах

Раньше от разработчика, который подключал libllama или libggml, требовалось следить за изменениями вручную. Теперь авторы фиксируют правила семантического версионирования для всех проектов ggml-org:

- MAJOR повышается при несовместимом изменении публичного C API в каталоге include; - MINOR означает обратно совместимые вещи: новую функцию, обновление бэкенда, поддержку модели, расширение API; - PATCH - исправление ошибки без изменений API.

Публичные заголовки лежат в llama.cpp/include/ (libllama) и ggml/include/ (libggml). Несовместимость по API и ABI теперь будет видна по номеру версии, а не по сломавшейся сборке. Для проектов вроде десктопных клиентов, мобильных приложений и серверных обвязок это ощутимая разница: можно закрепить зависимость на мажорной версии и обновляться без сюрпризов.

Где брать сборки

Авторы расширяют каналы распространения. Готовые артефакты есть для Linux, macOS, Windows, Android и iOS. Кроме них перечислены Docker для Linux, пакеты Debian, Homebrew (macOS и Linux), conda-forge (Windows, macOS, Linux), MacPorts, Winget для Windows и XCFramework для iOS и macOS. Для мобильной разработки последний пункт заметно упрощает встраивание: не нужно собирать библиотеку самостоятельно.

CI и железо

Отдельно команда пишет про тестовую инфраструктуру. Проверку каждого изменения в основных ветках масштабируют через HF Buckets и HF Jobs. Поддержку оборудованием предоставляют NVIDIA, AMD, Qualcomm, Arm, IBM и Intel, и на их железе добавляются собственные раннеры. Для проекта, который поддерживает десятки аппаратных платформ, это единственный способ ловить регрессии до релиза.

Каждый бэкенд ggml можно собрать как динамическую библиотеку и подгружать во время работы. Сейчас llama.cpp поддерживает более 150 вариантов архитектур моделей и все распространенные методы спекулятивного декодирования.

ИИ в разработке самого проекта

Авторы признают, что используют LLM в собственном цикле разработки, но оговариваются: качество кода, контроль над архитектурой и понимание деталей реализации остаются приоритетом. Для проекта с такой широкой аппаратной матрицей это разумная позиция, хотя как именно она выражается в процессе ревью, в анонсе не сказано.

Что это значит

llama.cpp давно стал основой для множества локальных ИИ-приложений, и до сих пор его зависимые проекты жили в режиме постоянной подгонки под изменения. Версия 1.0 с явными правилами не добавляет скорости инференса и не меняет набор моделей. Зато она снижает стоимость поддержки для тех, кто на нем строит продукты, и это может оказаться важнее очередного прироста токенов в секунду.

Источники

Все эти инструменты - уже на Genova-ai

Картинки, видео, музыка, голос и ИИ-чат в одном месте. Без VPN и зарубежных карт.

Картинки
Видео
Музыка
Голос
ИИ-чат
Попробовать бесплатно

Похожие новости

V
Генерация кода

Vercel Labs выпустила UI SDK: 50+ поведений интерфейса для ИИ-агентов

Vercel Labs открыла бета-версию UI SDK под Apache-2.0: набор из 50+ поведений интерфейса, из которых агенты собирают доступные компоненты для React, Vue, Svelte, Solid и Web Components.

14 ноября3 мин чтения
A
Генерация кода

Amplitude оценивает срок выпуска доработок с агентом Wave в 1-2 дня, раньше уходил месяц

Amplitude рассказала, что ее агент Wave на моделях OpenAI сокращает путь от идеи до релиза с примерно месяца до 1-2 дней. В тесте на своей главной странице число сообщений через карточки-подсказки через день выросло на 160% относительно контрольной группы.

13 ноября3 мин чтения
NVIDIA
Генерация кода

NVIDIA добавила в AICR компонент учета AI-нагрузок на базе k8s-aibom от Google

AI Cluster Runtime от NVIDIA получил компонент AIBOM на базе k8s-aibom: в пространствах имен с включенным opt-in он записывает, какие модели и образы работают в кластере. Контроллер потребляет в среднем около 2,2 millicores CPU.

12 ноября3 мин чтения