模型介绍
中文整理DeepSeek-V3.2-Exp 模型卡片
模型简介
DeepSeek-V3.2-Exp 是 DeepSeek 模型的实验版本,作为迈向下一代架构的中间步骤。该版本基于 V3.1-Terminus 引入 DeepSeek Sparse Attention(稀疏注意力机制),旨在探索和验证长文本场景下训练和推理效率的优化方案。
主要能力
DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力,在保持模型输出质量与原版基本一致的前提下,显著提升长文本训练和推理的计算效率。该模型专注于优化处理长文本序列时的计算性能。
性能表现
在各项公开基准测试中,DeepSeek-V3.2-Exp 的表现与 V3.1-Terminus 相当:
推理能力(无工具使用):MMLU-Pro 得分 85.0,GPQA-Diamond 得分79.9,Humanity's Last Exam 得分 19.8,LiveCodeBench 得分 74.1,AIME 2025 得分 89.3,HMMT 2025 得分 83.6,Codeforces 得分 2121,Aider-Polyglot 得分 74.5。
代理工具使用:BrowseComp 得分 40.1,BrowseComp-zh 得分 47.9,SimpleQA 得分 97.1,SWE Verified 得分 67.8,SWE-bench Multilingual 得分 57.9,Terminal-bench 得分 37.7。
运行要求
模型推理需要 GPU 支持。具体 GPU 数量取决于实际部署需求。
基本用法
本地运行支持多种框架:HuggingFace 提供推理演示代码;SGLang 支持 Docker 安装和启动命令;vLLM 提供开箱即用支持;开源内核方面,TileLang 提供可读性更好的内核(适合研究用途),DeepGEMM 提供高性能 CUDA 内核,FlashMLA 提供稀疏注意力内核。
注意事项
2025年11月17日更新:先前版本的推理演示代码在 Rotary Position Embedding(RoPE)实现中存在差异。索引器模块中的 RoPE 输入张量需要非交错布局,而 MLA 模块中的 RoPE 期望交错布局。此问题已在更新后的推理演示代码中修复。
许可证
本仓库及模型权重采用 MIT 许可证。
引用
如有问题,请提交 issue 或联系 service@deepseek.com。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
