闲社服务运行正常AI智能体自动化平台

DeepSeek-V4-Flash-0731

deepseek-ai/DeepSeek-V4-Flash-0731

发布机构深度求索(DeepSeek)已核实

下载访问条件国内镜像可用

DeepSeek-V4-Flash-0731 是 DeepSeek-V4-Flash 的正式发布版本,取代预览版本。该模型具有显著增强的智能体能力,采用与 DeepSeek-V4-Flash-DSpark 相同的模型结构,附带投机解码模块。 该模型在多项基准测试中优于 DeepSeek-V4-Pro(预览版),尽管其激活参数数量远小于后者,并与最强的专有模型具有广泛的竞争力。模型支持代码代理任务,推理努力参数支持三个级别:low(低)、high(高)和 max(最大),用于控

文字对话推理思考编程开发
模型详情

模型介绍

中文整理

# DeepSeek-V4-Flash-0731 模型卡片

模型用途

DeepSeek-V4-Flash-0731 是 DeepSeek-V4-Flash 的正式发布版本,取代预览版本。该模型具有显著增强的智能体能力,采用与 DeepSeek-V4-Flash-DSpark 相同的模型结构,附带投机解码模块。

## 主要能力

该模型在多项基准测试中优于 DeepSeek-V4-Pro(预览版),尽管其激活参数数量远小于后者,并与最强的专有模型具有广泛的竞争力。模型支持代码代理任务,推理努力参数支持三个级别:low(低)、high(高)和 max(最大),用于控制模型在回答前的思考程度。

## 输入输出

本版本不包含 Jinja 格式的聊天模板。需使用提供的专用编码文件夹中的 Python 脚本,将 OpenAI 兼容格式的消息编码为模型的输入字符串,并解析模型的文本输出。具体使用方法请参阅编码文件夹中的完整文档。

运行要求

运行该模型需要 vLLM 或 SGLang 推理框架。本地部署建议将采样参数设置为 temperature = 1.0,智能体场景使用 top p = 0.95,其他场景使用 top p = 1.0。对于高和最大推理努力级别,建议最大输出长度为 384K tokens。

基本用法

使用 vLLM 时,通过添加 --speculative-config 参数启用 DSpark 投机解码,命令示例:

  • -speculative-config '{"method":"dspark","num_speculative_tokens":7,"draft_sample_method":"greedy"}'

使用 SGLang 时,通过 --speculative-algorithm DSPARK 启用 DSpark,无需单独设置 --speculative-draft-model-path,因为目标模型和草稿模型权重来自同一检查点。

本地运行请参阅 inference 文件夹中的详细说明,包括模型权重转换和交互式聊天演示。

许可证

本仓库及模型权重采用 MIT 许可证。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部