模型介绍
中文整理DeepSeek-V4.1-Flash: 突破 KV 缓存压缩极限
模型用途
DeepSeek-V4.1-Flash 是一个多模态混合专家（MoE）模型，拥有 552B 骨干参数，支持最长 100 万 token 的上下文。该模型原生支持图像和文本处理，以自回归方式生成文本。
主要能力
该模型采用因果编码器-解码器（CED）架构，包含 40 层 Transformer（20 层因果编码器 + 20 层解码器）。预填充阶段每 token 激活 8B 参数，解码阶段激活 16B 参数，显著降低了输入密集型智能体工作负载的成本。
模型支持可连续调节的推理 effort（整数 1-100），可在推理成本和准确率之间进行权衡。支持多模态理解（图像+文本）、代码生成、数学推理、长上下文处理等任务。
架构特点包括：SWA 边界回放将持久 KV 缓存占用降至 DeepSeek-V4-Flash 的约 1/8；压缩稀疏注意力 2（CSA2）将全局 KV 缓存占用降至每 token 890 字节，约为 DeepSeek-V4-Flash 的 1/4；单次 mHC 残差流混合；Engram 条件记忆（196B 参数）；DSpark 投机解码等。
输入输出
输入：图像和文本（支持多轮对话、工具调用、思考模式、数字推理调节、会话中系统消息、交织图像内容）
输出：文本（自回归生成）
运行要求
每 token 激活参数：预填充阶段 8B，解码阶段 16B
全局 KV 缓存占用：每 token 890 字节
上下文窗口：100 万 token
推荐采样参数：temperature=1.0，top_p=0.95 或 1.0，max_tokens≥256K
基本用法
提示编码：发布包中包含独立的 Python 参考实现（encoding.py），支持多轮对话、工具调用、思考模式、数字推理 effort、会话中系统消息和交织图像内容的测试用例。
生产使用：提供 deepseek-recipe（Rust 库 + Python 绑定），可将 Messages、Chat Completions 和 Responses API 请求转换为 Conversation 格式，编码为 DeepSeek V4 和 V4.1 提示词或 token ID，并将模型输出解析为完整或流式响应。
本地推理：请参考 inference 文件夹中的权重转换和本地运行说明。
许可证
本仓库及模型权重采用 MIT 许可证。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。