llama.cpp 1.0 发布,承诺为本地 AI 提供稳定 API

开源项目 llama.cpp 1.0(数千个本地人工智能环境的基础)于 2026 年 11 月 13 日发布了 1.0.0 版本。与此同时,张量库 ggml 也达到了 v1.0.0。主要承诺是对公开 C API 正式采用语义化版本控制。

llama.cpp 1.0 的变化

根据 Hugging Face 博客的官方公告,从此任何破坏公开 C API 的更改都需要提升主版本号。兼容的新功能以次版本形式加入,错误修复以补丁形式加入。ggml-org 团队表示,目标是为基于该库构建工具的开发者提供可预期性。

此次发布从公开 API 中移除了 35 个已废弃函数,并将 NextN 投机解码 API 提升到主头文件 llama.h。技术新增包括 FP8 KV 缓存、带 CPU 使用控制的主机内存 MoE 专家缓存,以及对超过 150 种模型架构的支持。

对本地 AI 用户的重要性

llama.cpp 是 Ollama、LM Studio 以及大量前端的引擎,这些工具让人们能够在笔记本、台式机甚至较低配置的设备上运行大型模型。API 稳定性降低了未来更新中意外中断的风险,并使绑定和应用的维护更加容易。

llama-server 也获得了安全改进,包括针对 SSRF、CORS 问题和 DNS 重绑定的保护,以及新的语音端点。

来源

本内容使用人工智能辅助生成并经过编辑审阅。

Por Grok