闲社服务运行正常AI智能体自动化平台

DeepSeek-V3.2-Exp

deepseek-ai/DeepSeek-V3.2-Exp

发布机构深度求索(DeepSeek)已核实

下载访问条件国内镜像可用

DeepSeek-V3.2-Exp 是 DeepSeek 模型的实验版本,作为迈向下一代架构的中间步骤。该版本基于 V3.1-Terminus 引入 DeepSeek Sparse Attention(稀疏注意力机制),旨在探索和验证长文本场景下训练和推理效率的优化方案。 DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力,在保持模型输出质量与原版基本一致的前提下,显著提升长文本训练和推理的计算效率。该模型专注于优化处理长文本序列时的计算性能

文字对话推理思考
模型详情

模型介绍

中文整理

DeepSeek-V3.2-Exp 模型卡片

模型简介

DeepSeek-V3.2-Exp 是 DeepSeek 模型的实验版本,作为迈向下一代架构的中间步骤。该版本基于 V3.1-Terminus 引入 DeepSeek Sparse Attention(稀疏注意力机制),旨在探索和验证长文本场景下训练和推理效率的优化方案。

主要能力

DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力,在保持模型输出质量与原版基本一致的前提下,显著提升长文本训练和推理的计算效率。该模型专注于优化处理长文本序列时的计算性能。

性能表现

在各项公开基准测试中,DeepSeek-V3.2-Exp 的表现与 V3.1-Terminus 相当:

推理能力(无工具使用):MMLU-Pro 得分 85.0,GPQA-Diamond 得分79.9,Humanity's Last Exam 得分 19.8,LiveCodeBench 得分 74.1,AIME 2025 得分 89.3,HMMT 2025 得分 83.6,Codeforces 得分 2121,Aider-Polyglot 得分 74.5。

代理工具使用:BrowseComp 得分 40.1,BrowseComp-zh 得分 47.9,SimpleQA 得分 97.1,SWE Verified 得分 67.8,SWE-bench Multilingual 得分 57.9,Terminal-bench 得分 37.7。

运行要求

模型推理需要 GPU 支持。具体 GPU 数量取决于实际部署需求。

基本用法

本地运行支持多种框架:HuggingFace 提供推理演示代码;SGLang 支持 Docker 安装和启动命令;vLLM 提供开箱即用支持;开源内核方面,TileLang 提供可读性更好的内核(适合研究用途),DeepGEMM 提供高性能 CUDA 内核,FlashMLA 提供稀疏注意力内核。

注意事项

2025年11月17日更新:先前版本的推理演示代码在 Rotary Position Embedding(RoPE)实现中存在差异。索引器模块中的 RoPE 输入张量需要非交错布局,而 MLA 模块中的 RoPE 期望交错布局。此问题已在更新后的推理演示代码中修复。

许可证

本仓库及模型权重采用 MIT 许可证。

引用

如有问题,请提交 issue 或联系 service@deepseek.com。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部