MiniMax-H3-int4-convrot-pruned

现在的w4a8，已经很能打了！只需要选对mix版本！

🆕 2026.11.6：新增SparseRef15 Hybrid的w4a8版本，最近融了加速的基模多起来了，用这个的时候得小心，它需要lora。

🆕 2026.11.3：新增singularityV2X10eros prismDMAD的w4a8版本。

🆕 2026.11.2：新增heptagram turboV10的w4a8版，这个微调模型的V10版本社区口碑不错，V20正式版还没有出来，V20 预览版口碑有点下滑，就不转了。

🆕 2026.11.1：新增singularityV2X10eros prismPIKA两个w4a8版本，分别是体积优先和质量优先，不过指标高不等于观感更好，小体积版本出片反而更真实，建议不做复杂动作的话无脑选小的。这个模型还是有点东西的，个人认为prism优于classics优于BETA7，见仁见智吧。

🆕 2026.10.30：终于解决了模型加载时间过长的问题，w4a8走起！

🆕 2026.10.29：Singularity V2和Eros BETA7！作者好敬业！不过这个版本强行量化w4a8会导致生图时间大幅增加，没有意义，问题出在格式和结构，不在具体权重。

🆕 2026.10.26新增：有人整合了Singularity V2和Eros BETA6！现在它的W4A8版本也来了！W6A8似乎有点尴尬，想要高质量，体积和int8拉不开，想要小体积呢，质量打不过W4A8...

🆕 2026.10.11新增：Eros BETA6和PinkCherry V1.8的W4A8版本，可能是我用法不对？感觉PinkCherry似乎更胜一筹！

🆕 2026.10.06新增：FeiHou Remix v0.8（HSA turbo）W4A8 两个版本；得益于FeiHou优秀的底模，截止目前，这是我转过的画质最好的W4A8模型，视频效果和W6A8版本的25-49模型有的一拼。

FeiHou remix 0.8/ 目录下有两版 W4A8 MIX模型：

版本 文件 体积 group size 相对 int8 源

:-- :-- --: --: --:

• *g16** FeiHou ... v0.8 int8 convrotHQ pruned w4a8 mixed.safetensors 16.59 GB / 15.45 GiB 16 **−28.7%**
• *g8** FeiHou ... v0.8 int8 convrotHQ pruned w4a8 mixed g8.safetensors 17.54 GB / 16.34 GiB 8 −24.6%

共同点**

只量化 blocks.N.attn.qkv proj / blocks.N.mlp.fc1 / blocks.N.mlp.fc2 ，共 **131 层**；

首尾 5 个 block（ 0/1/47/48/49 ，14 层）保持 **int8**；

保护层**原样保留**： attn.out proj （BF16）、 adaln proj （F16）、各 norm、 token refiner ；

所有 w4a8 层 convrot groupsize = 256 ，字节级完整，可正常加载出片。

各自优缺点**

• *g16 —— 体积优先**
• ✅ 体积最小，比 int8 源小 **28.7%**，显存压力最低
• ⚠️ 量化误差较高（rotated-basis relL2 ≈ **7.31%**），人脸与细纹理损失更明显
• *g8 —— 画质优先**
• ✅ 量化误差更低（relL2 ≈ **6.38%**）；实测人脸区域归一锐度比 g16 **高 7.1%**、对比高 2.2%
• ⚠️ 体积比 g16 大 **0.95 GB**

综合观感**：**g8 优于 g16**；若对细节、人脸、道具准确性要求高，建议直接使用 int8 源。

• *目录已调整**：仓库文件已按模型角色（ DiT / Text-Encoder / VAE ）和精度档位（ INT4-ConvRot / INT8-ConvRot / W4A8 ）分类归档， DiT/W4A8/ 下再按模型系列（ 10Eros / Dasiwa / Singularity ）与来源（ official 官方版 / B25-49 ）分目录。旧的下载路径已变更，请按新目录结构取文件。

• *试验版说明**：非剪枝版 W4A8 V2 版实测可用。

您可以通过如下git clone命令，或者ModelScope SDK来下载模型

SDK下载

Git下载

🙏 致谢

本仓库的量化检查点离不开以下作者与团队的辛苦付出，特此致谢：

• *MiniMax 团队** —— 开源 MiniMax-H3 全模态音视频生成基座模型，为社区的一切二次创作提供了可能；
• *FX-FeiHou** —— 提供 MiniMax-H3 Remix 融合模型（含 v0.8 HSA turbo 高动态版）与 ComfyUI-FeiHou-Easy-H3 、 ComfyUI-FeiHou-Toolbox 节点套件，本目录两个 W4A8 版本均由其 int8 检查点转换而来；
• *社区各位微调与量化作者**（ 10Eros-Max 、 Dasiwa 、 Singularity 等系列）—— 感谢你们在量化与融合工艺上的持续探索与开源分享。

感谢所有让这个生态变得更好的朋友们。

如果您是本模型的贡献者，我们邀请您根据模型贡献文档，及时完善模型卡片内容。