闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

Deepseek-v4-flash-w4a8

ml1019/Deepseek-v4-flash-w4a8

发布机构ml1019

下载访问条件魔搭来源

You are viewing the default Readme template as no detailed model-card was provided by the model’s contributors. You can access the model files in the "Files and versions" tab. Model files may be downloaded with ModelScope SDK or through git

文字对话
模型详情

模型介绍

中文整理

You are viewing the default Readme template as no detailed model-card was provided by the model’s contributors. You can access the model files in the "Files and versions" tab.

Model files may be downloaded with ModelScope SDK or through git clone directly.

Download with ModelScope’s Python SDK

Download with Git clone

精度验证

精度 summary 来源:

default GPQA 有效结果共 13 次。

最佳结果来源:

结果:

dataset version metric mode 最好分数 平均分数 接近 71.2 的次数

  • -- --- --- --- ---: ---: ---:

gpqadataset - accuracy gen 71.72 65.97 2 / 13

“接近 71.2” 按与 71.2 的绝对差不超过 1.0 分统计,命中的运行如下:

run score 与 71.2 的绝对差

  • -- ---: ---:

20260524 182949 71.21 0.01

20260524 183921 71.72 0.52

基于多次 ais bench GPQA 测试,W4A8 DS4 最好结果达到 71.72 ,另一次结果为 71.21 ,与官方 W8A8-MTP GPQA 参考精度 71.2 基本一致。考虑到官方也说明 ais bench 精度存在波动,当前 W4A8 DS4 量化产物在已测试服务配置下可认为在 GPQA 上接近无损。该结论目前主要基于 GPQA;若要扩展为更全面的接近无损结论,仍建议补充 MMLU-Pro 等数据集复测。

官方量化报告参考

官方 W8A8-MTP 量化报告使用 ais bench 做精度验证:

模型名 量化格式 数据集 测试精度 % 官方精度 % 备注

  • -- --- --- ---: ---: ---

ml1019/Deepseek-v4-flash-w4a8 w8a8 gpqa 71.21 71.2 V4-Flash Non-Think

ml1019/Deepseek-v4-flash-w4a8 w8a8 mmlupro 82.85 83.0 V4-Flash Non-Think

ml1019/Deepseek-v4-flash-w4a8 w8a8 mmlupro 85.86 86.2 V4-Flash Max

使用 ais bench 时,Non-Think 模式 max out len = 65536 ,Max 模式 max out len = 131072 。精度存在波动,建议多次测试。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部