闲社服务运行正常AI智能体自动化平台
闲社 · 模型工具

找到工具,让模型真正用起来

从本地运行到微调、量化与评测,先看用途和使用条件,再进入原项目。

41个已收录项目9类使用场景

工具 · 教程 · 资源入口
不是模型权重下载区

按任务选择工具

共 41 项

提供模型运行与训练工具及本地使用界面,适合按项目支持范围开展模型微调与实验。

准备条件兼容模型、训练材料与对应的硬件环境。
模型工具Apache-2.0

提供参数高效微调方法,适合在已有模型上训练适配器,而不是每次都更新全部模型参数。

准备条件Python、兼容模型、训练数据及训练硬件。
模型工具Apache-2.0

为语言模型的强化学习与后训练提供工具,适合研究或构建模型训练流程。

准备条件基础模型、符合方法要求的数据和训练资源。
模型工具Apache-2.0
量化与合并

Mergekit 模型合并

通过配置合并预训练语言模型,适合比较模型合并方案与制作实验性衍生模型。

准备条件兼容的输入模型、磁盘空间及相应计算资源。
模型工具LGPL-3.0

提供与 Transformers 配合的模型压缩方法,用于为兼容的 vLLM 部署准备压缩模型。

准备条件受支持的模型、压缩配置;部分方法需要校准数据。
模型工具Apache-2.0
量化与合并

GPTQModel 模型量化

面向大语言模型量化与压缩提供工具,适合按支持范围生成更适合部署的量化模型。

准备条件兼容权重、量化所需资源及可能需要的校准数据。
模型工具许可待核对,查看原项目

为 PyTorch 提供低比特量化相关能力,可用于支持的模型推理和训练流程。

准备条件PyTorch、受支持的设备和对应运行依赖。
模型工具MIT

覆盖语言、视觉语言和生成模型的评测与性能基准工具,适合开展可配置的模型测试。

准备条件目标模型或服务、评测数据及相应计算资源。
模型工具Apache-2.0

提供多模型、多数据集的评测配置与执行框架,适合开展有统一口径的模型比较。

准备条件符合项目要求的模型接口、数据集及运行环境。
模型工具Apache-2.0

Hugging Face Hub 的官方命令行与 Python 客户端,可用于模型仓库文件下载和管理。

准备条件Python、可访问的数据源;受限仓库仍需合法授权。
模型工具Apache-2.0

通过节点组织生成模型的工作流,适合构建可视化、可复用的图像生成流程。

准备条件兼容的模型权重和运行环境;扩展节点需另行核对。
模型工具GPL-3.0

面向生成式视觉创作提供界面和工具,适合围绕支持的模型进行图像创作。

准备条件兼容模型、满足要求的设备与系统依赖。
模型工具Apache-2.0

聚焦提示词输入和图像生成的使用流程,适合按项目说明使用支持的生成模型。

准备条件项目要求的模型、显存或内存及运行环境。
模型工具GPL-3.0

为多种模型接口提供统一调用和网关能力,适合管理应用侧模型接入与请求路由。

准备条件合法可用的模型接口或本地服务;调用费用另计。
模型工具许可待核对,查看原项目

围绕语言模型中的拒答行为开展自动化权重修改实验,适合研究模型行为变化与副作用。

准备条件兼容基础模型、相应计算资源及模型使用授权。
模型工具AGPL-3.0

收录依据为原项目公开资料,不代表已完成安装、安全审计或所有平台验证。许可证与运行要求以原项目为准;源码工具与模型权重分别获取。

返回顶部