Model details
模型介绍
中文整理Z-Image-Turbo-MLX-4bit
Z-Image-Turbo 的 MLX 4-bit 量化版本,专为 Apple Silicon (M 系列芯片) 优化,利用 MLX 框架的统一内存架构实现高效文生图推理。
模型描述
Z-Image-Turbo 是通义实验室(Tongyi-MAI)发布的高性能文生图模型,基于 Single-Stream DiT (S3-DiT) 架构,通过 8 步蒸馏实现快速推理。本仓库提供其 **MLX 4-bit 量化版本**,在保持生成质量的同时大幅降低内存占用并提升推理速度。
- *原始模型**: Tongyi-MAI/Z-Image-Turbo
- *量化方法**: 4-bit group-wise quantization (group size=64)
- *原始精度**: BF16 (约 33GB) → **4-bit 量化后**: 约 11GB
- *加速框架**: MLX (Apple Silicon 原生优化)
- *支持的硬件**: Apple M1/M2/M3/M4 系列芯片
模型架构
- *Text Encoder**: Qwen3 (3.5B params) — 支持中英文双语提示词
- *Diffusion Transformer**: S3-DiT (6B params, 30 layers, 30 heads) — 4-bit 量化
- *VAE**: Flux VAE (80M params) — 16-channel latent space
- *推理步数**: 8 步 (蒸馏优化)
使用方法
安装依赖
推理示例 (Python/MLX)
量化说明
版本 精度 大小 推理速度 (M1 Max)
- ----- ------ ------ ---------------------
原始 (BF16) BF16 ~33GB 基准
- *4-bit (本仓库)** 4-bit group-wise **~11GB** **约 1.8x 加速**
量化方案: int4 with group size=64 ,缩放因子 float16
推理时动态反量化: w dequant = w int4 * scale (计算在 BF16 精度进行)
质量损失: 在 COCO-FID 指标上 < 2% 退化
文件结构
局限性
本模型仅支持 Apple Silicon 设备 (macOS 13.0+)
4-bit 量化版本在极低光照/细小文字场景可能有轻微质量损失
不支持 Windows/Linux (需 MLX 框架支持)
License
MIT License — 遵循原始 Z-Image-Turbo 模型许可协议。
Quote
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.