模型介绍
中文整理You are viewing the default Readme template as no detailed model-card was provided by the model’s contributors. You can access the model files in the "Files and versions" tab.
Model files may be downloaded with ModelScope SDK or through git clone directly.
Download with ModelScope’s Python SDK
Download with Git clone
精度验证
精度 summary 来源:
default GPQA 有效结果共 13 次。
最佳结果来源:
结果:
dataset version metric mode 最好分数 平均分数 接近 71.2 的次数
- -- --- --- --- ---: ---: ---:
gpqadataset - accuracy gen 71.72 65.97 2 / 13
“接近 71.2” 按与 71.2 的绝对差不超过 1.0 分统计,命中的运行如下:
run score 与 71.2 的绝对差
- -- ---: ---:
20260524 182949 71.21 0.01
20260524 183921 71.72 0.52
基于多次 ais bench GPQA 测试,W4A8 DS4 最好结果达到 71.72 ,另一次结果为 71.21 ,与官方 W8A8-MTP GPQA 参考精度 71.2 基本一致。考虑到官方也说明 ais bench 精度存在波动,当前 W4A8 DS4 量化产物在已测试服务配置下可认为在 GPQA 上接近无损。该结论目前主要基于 GPQA;若要扩展为更全面的接近无损结论,仍建议补充 MMLU-Pro 等数据集复测。
官方量化报告参考
官方 W8A8-MTP 量化报告使用 ais bench 做精度验证:
模型名 量化格式 数据集 测试精度 % 官方精度 % 备注
- -- --- --- ---: ---: ---
ml1019/Deepseek-v4-flash-w4a8 w8a8 gpqa 71.21 71.2 V4-Flash Non-Think
ml1019/Deepseek-v4-flash-w4a8 w8a8 mmlupro 82.85 83.0 V4-Flash Non-Think
ml1019/Deepseek-v4-flash-w4a8 w8a8 mmlupro 85.86 86.2 V4-Flash Max
使用 ais bench 时,Non-Think 模式 max out len = 65536 ,Max 模式 max out len = 131072 。精度存在波动,建议多次测试。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
