ggml-org于11月13日发布llama.cpp和ggml v1.0.0。项目规定今后API或ABI不兼容时以主版本号标记,并移除已弃用接口、加入缓存与多模态能力;依赖旧接口的应用升级前应检查迁移说明。 ...
|
ggml-org 团队于 11 月 13 日发布 llama.cpp 与底层张量库 ggml 的 v1.0.0。项目已发展约三年半,支持在多种硬件上本地运行多模态大模型;这次版本号升级的核心信号是面向下游开发者的兼容性规则:今后公共 API 或 ABI 出现不兼容变更时,将通过主版本号升级明确标记。 GitHub 发布说明显示,v1.0.0 移除了已弃用的公共 API,将 NextN/推测解码相关接口提升到公开头文件,并加入 FP8 KV 缓存、可配置 CPU 份额的 MoE 专家缓存及额外模型架构;服务端也增加了音频生成端点并修补多项安全问题。项目博客还列出 Windows、macOS、Linux、Android 和 iOS 等分发渠道。 这不等于未来完全不会破坏兼容:主版本号规则正是用来提示开发者何时需要检查迁移。使用 C/C++ 接口或依赖旧命令行参数的应用,升级前应对照发布说明并完成重新编译和回归测试。 ggml-org 发布说明:https://github.com/ggml-org/llama.cpp/releases/tag/v1.0.0 |
0