模型介绍
中文整理# DeepSeek-V4.1-Flash 模型卡片
模型用途
DeepSeek-V4.1-Flash 是一个多模态混合专家(MoE)模型,支持处理图像和文本并以自回归方式生成文本。该模型面向需要长上下文处理能力和高效推理的智能体工作负载。
## 主要能力
架构采用因果编码器-解码器(CED),由40层Transformer组成(20层编码器+20层解码器)。 Prefill阶段每token激活8B参数,解码阶段激活16B参数,显著降低输入密集型智能体工作负载的成本。
KV缓存压缩方面,SWA Bounded Replay将持久化KV缓存占用降至DeepSeek-V4-Flash的约1/8。压缩稀疏注意力2(CSA2)将全局KV缓存降至每token 890字节,约为DeepSeek-V4-Flash的1/4。
模型支持可连续调节的推理 effort(整数1-100),可权衡推理成本与准确率。每层MoE包含1个共享专家和384个路由专家,每token激活6个路由专家。
视觉编码器DeepSeek-ViT从零训练,采用2D-RoPE和3×3像素混洗下采样,通过两层MLP投影器将图像转换为视觉嵌入。
## 输入输出
输入:图像和文本(支持交错内容)
输出:文本(自回归生成)
运行要求
推荐采样参数:
- temperature: 1.0
- top p: 0.95 或 1.0
- 上下文窗口:1M tokens
- 最大生成长度:≥256K tokens
基本用法
该版本不包含Jinja格式的聊天模板。encoding文件夹包含独立的Python参考实现(encoding.py),支持多轮对话、工具调用、思考模式、数值推理effort控制、对话中系统消息以及交错图像内容。
生产环境可使用deepseek-recipe(Rust库+Python绑定),提供与参考实现相同的提示格式,可将Messages、Chat Completions和Responses API请求转换为DeepSeek V4和V4.1提示或token ID,并解析模型输出。
许可证
本仓库及模型权重采用MIT许可证。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
所选固定版本的完整仓库文件,包括模型权重、配置、分词器,以及作者提供的说明和其他文件。自动保留目录结构,不需要逐个选择或下载。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
