|
DiffuSpace于2026年10月30日发布首款Clover系列模型Clover-35B-A3B-Preview。它采用扩散语言模型与混合专家(MoE)架构,总参数约350亿、每个Token激活约30亿,支持思考模式和128K上下文。团队称模型采用块扩散生成,并提供Apache-2.0许可的权重和代码;官方仓库列出Transformers、SGLang与llama.cpp等推理路径。
DiffuSpace重点展示了代码智能体和工具调用场景,并公布了SWE-bench Verified 73.6、Terminal-Bench 2.1 51.7等成绩。速度数据则来自厂商自测:其称在单张GB300、BF16、batch size为1的内部智能体任务中达到680 tokens/s。上述基准和速度结果均为团队报告,尚不能视为独立复测结论。
对部署者而言,这是一种不同于逐Token自回归生成的块扩散路线,适合关注并行生成、智能体任务和开放权重的研究与工程团队。需要留意,模型卡给出的BF16权重约需69GB显存,此外还要预留推理状态空间;硬件要求、后端实现和实际速度会因配置而异。
官方发布介绍:https://diffuspace.ai/blog/clover-35b/
官方模型卡:https://huggingface.co/Diffuspace/Clover-35B-A3B-Preview |
0