模型介绍
中文整理DeepSeek-V4-Pro-0813 模型卡片
模型概述
DeepSeek-V4-Pro-0813是DeepSeek-V4-Pro的正式发布版本,取代了预览版。该模型在代理能力方面有显著增强,生产环境中的性能提升尤为明显。模型基于DeepSeek-V4-Pro(预览版)结构构建,并附加了DSpark speculative decoding模块。
主要能力
该模型在多个基准测试中优于DeepSeek-V4-Pro(预览版),与最强的专有模型具有竞争力。基准测试涵盖代码代理任务、全栈开发、终端操作、仓库理解、网络安全、自动化等多个领域。
输入输出格式
本版本不包含Jinja格式聊天模板。需使用提供的专用编码文件夹中的Python脚本,将OpenAI兼容格式的消息编码为模型输入字符串,并解析模型文本输出。推理努力参数(reasoning effort)支持三个级别:low、high、max,用于控制模型在回答前的思考深度。
运行要求
使用vLLM运行:添加--speculative-config参数,方法设为dspark。建议配置:num_speculative_tokens=7,draft_sample_method=greedy。推荐使用单节点4×GB300配置。
使用SGLang运行:启用--speculative-algorithm DSPARK,无需单独设置draft model路径,目标模型和草稿权重来自同一检查点。
本地运行:需进行模型权重转换,建议将采样参数设为temperature=1.0,agentic场景使用top_p=0.95,其他场景使用top_p=1.0。high和max推理努力级别建议最大输出长度为384K tokens。
许可证
本仓库及模型权重采用MIT许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
