Model details
模型介绍
中文整理蒸馏1B版FLUX.2-klein-base-4B文本编码器V1
模型特点
我们从 FLUX.2-klein-base-4B 的文本编码器中蒸馏出一个 **1B 参数量**的轻量化版本，解决原版文本编码器在部分设备上显存占用过大、推理速度慢的问题。该模型具备以下特点：
- 在 220 万条文本数据上完成知识蒸馏，最终蒸馏损失降至 3.6
- 参数量从4B 精简至 1B，显著降低显存占用并提升推理速度，fp16文件仅2.42GB大小
- 对长文本、中等文本、短文本均能生成与原版编码器对齐的文本嵌入
效果展示
这是将FLUX.2-klein-base-4B的文本编码模型换成我们的编码模型后生成的图像效果：
使用方法
推理环境
我们的推理是在一台 V100 32GB 显卡上进行（您可以在显存更低的显卡上进行推理）的，torch环境设置如下：
目录构建
在进行推理之前，您需要构建一个如下格式的目录：
您下载的模型文件名为
因此，您需要在将模型放到 encoder fp16 文件夹下后将其重命名为
推理代码
将如下推理代码放到infer.py文件中：
局限性
尽管在大量数据上进行了训练，但仍然在一些局限性：
模型基于原版编码器蒸馏得到，**对部分生成细节的编码可能略逊于原版**
部分场景下可能出现文本渲染缺失、语义理解偏差等问题
暂未完成大规模数据集上的量化指标验证
如在使用中遇到问题，欢迎反馈与交流。
注意事项
⚠️本模型仅作科研学习用途。
使用规范遵循原版 black-forest-labs/FLUX.2-klein-base-4B 要求。
证书（开源协议）
本模型基于FLUX.2-klein-base-4B原版模型衍生开发，整体遵循Apache 2.0开源协议授权使用， 完整协议条款可查阅：https://www.apache.org/licenses/LICENSE-2.0
致谢
感谢 black-forest-labs 官方提供的 FLUX.2-klein-base-4B 模型，以及 Hugging Face diffusers 库提供的开源代码和推理支持。本工作离不开所有开源贡献者的支持。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
Problem with the information or download?
Sign in to submit feedback.
