量化与合并
Mergekit 模型合并
通过配置合并预训练语言模型，适合比较模型合并方案与制作实验性衍生模型。
准备条件兼容的输入模型、磁盘空间及相应计算资源。
从本地运行到微调、量化与评测，先看用途和使用条件，再进入原项目。
工具 · 教程 · 资源入口
不是模型权重下载区
通过配置合并预训练语言模型，适合比较模型合并方案与制作实验性衍生模型。
提供与 Transformers 配合的模型压缩方法，用于为兼容的 vLLM 部署准备压缩模型。
面向大语言模型量化与压缩提供工具，适合按支持范围生成更适合部署的量化模型。
为 PyTorch 提供低比特量化相关能力，可用于支持的模型推理和训练流程。
收录依据为原项目公开资料，不代表已完成安装、安全审计或所有平台验证。许可证与运行要求以原项目为准；源码工具与模型权重分别获取。