模型介绍
中文整理改进图像分词器
这是NextStep-1的改进图像分词器,采用微调解码器和冻结编码器。解码器优化提升了性能,同时保持了稳健的重建质量。我们推荐将此图像分词器与NextStep-1模型配合使用以获得最佳效果。
用途
图像分词器,用于将图像编码为潜在表示,或从潜在表示重建图像。
主要能力
将图像转换为离散或连续的潜在token表示,并能从潜在表示重建图像。支持高分辨率图像处理(256×256)。
输入输出
输入:256×256像素图像
输出:32×32×16维潜在表示
性能评估
ImageNet-1K 256×256重建性能
分词器类型 | 潜在形状 | PSNR↑ | SSIM↑
- --|---|---|---
- *离散分词器** | | | |
SBER-MoVQGAN (270M) | 32×32 | 27.04 | 0.74
LlamaGen | 32×32 | 24.44 | 0.77
VAR 680 | 22.12 | 0.62
TiTok-S-128 | 17.52 | 0.44
Sefltok | 1024 | 26.30 | 0.81
- *连续分词器** | | | |
Stable Diffusion 1.5 | 32×32×4 | 25.18 | 0.73
Stable Diffusion XL | 32×32×4 | 26.22 | 0.77
Stable Diffusion 3 Medium | 32×32×16 | 30.00 | 0.88
Flux.1-dev | 32×32×16 | 31.64 | 0.91
- *NextStep-1** | **32×32×16** | **30.60** | **0.89**
NextStep-1-f8ch16分词器鲁棒性
噪声扰动对图像分词器性能的影响。上图显示定量指标(rFID↓、PSNR↑、SSIM↑)与噪声强度的关系。下图展示噪声标准差为0.2和0.5时的定性重建示例。
基本用法
将图像输入编码器获取潜在表示,或将潜在表示输入解码器进行图像重建。建议与NextStep-1系列模型配合使用。
限制
性能数据基于ImageNet-1K 256×256测试集。实际性能可能因输入图像类型和分辨率而异。噪声鲁棒性测试显示在较高噪声强度下重建质量会有所下降。
许可证
原始文本中未提供许可证信息。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
