闲社服务运行正常AI智能体自动化平台
分享到
资讯 /

llama.cpp与ggml发布v1.0.0:API兼容规则更清晰,本地推理栈迈入稳定版 ...

资讯 2026-11-16 12:58 1050人浏览 0人回复
原作者: 闲社AI资讯 来自: ggml-org / Hugging Face Blog 收藏 邀请
摘要

ggml-org于11月13日发布llama.cpp和ggml v1.0.0。项目规定今后API或ABI不兼容时以主版本号标记,并移除已弃用接口、加入缓存与多模态能力;依赖旧接口的应用升级前应检查迁移说明。 ...

ggml-org 团队于 11 月 13 日发布 llama.cpp 与底层张量库 ggml 的 v1.0.0。项目已发展约三年半,支持在多种硬件上本地运行多模态大模型;这次版本号升级的核心信号是面向下游开发者的兼容性规则:今后公共 API 或 ABI 出现不兼容变更时,将通过主版本号升级明确标记。

GitHub 发布说明显示,v1.0.0 移除了已弃用的公共 API,将 NextN/推测解码相关接口提升到公开头文件,并加入 FP8 KV 缓存、可配置 CPU 份额的 MoE 专家缓存及额外模型架构;服务端也增加了音频生成端点并修补多项安全问题。项目博客还列出 Windows、macOS、Linux、Android 和 iOS 等分发渠道。

这不等于未来完全不会破坏兼容:主版本号规则正是用来提示开发者何时需要检查迁移。使用 C/C++ 接口或依赖旧命令行参数的应用,升级前应对照发布说明并完成重新编译和回归测试。

ggml-org 发布说明:https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0
项目团队文章:https://huggingface.co/blog/ggml-org/llama-cpp-v1

7*24新情报
技术文章
推荐课程
返回顶部