模型详情
模型介绍
中文整理# DeepSeek-V3 模型卡片
模型用途
DeepSeek-V3 是一个强大的混合专家（Mixture-of-Experts，MoE）语言模型，旨在提供高效推理和成本优化的训练。该模型可用于对话、推理、代码生成、数学问题求解等多种自然语言处理任务。
## 主要能力
DeepSeek-V3 采用 Multi-head Latent Attention（MLA）和 DeepSeekMoE 架构，这些架构已在 DeepSeek-V2 中得到充分验证。该模型首创无辅助损失（auxiliary-loss-free）的负载均衡策略，并采用多令牌预测（Multi-Token Prediction，MTP）训练目标以提升性能。
在基准测试中，DeepSeek-V3 在大多数任务上优于其他开源模型，尤其是在数学和代码任务上表现突出。其性能与领先的闭源模型相当。
## 输入输出
- **上下文长度**：最高支持 128K
- **输入格式**：文本形式的自然语言或代码
- **输出格式**：文本形式的回复、推理过程或代码
运行要求
- **总参数**：671B
- **激活参数**：37B/令牌
- **训练成本**：完整训练仅需 2.788M H800 GPU 小时，其中预训练 2.664M GPU 小时，后训练阶段 0.1M GPU 小时
- **硬件支持**：支持 NVIDIA GPU（BF16 和 FP8）、AMD GPU（BF16 和 FP8）、华为 Ascend NPU
- **推理框架**：支持 SGLang、LMDeploy、TensorRT-LLM、vLLM、DeepSeek-Infer Demo
基本用法
- **在线使用**：可通过 DeepSeek 官网 chat.deepseek.com 对话
- **API 调用**：通过 DeepSeek 平台 platform.deepseek.com 使用 OpenAI 兼容 API
- **本地部署**：使用 SGLang、LMDeploy、vLLM 等框架进行本地推理部署
限制
- 训练过程稳定，未出现不可恢复的损失峰值或回滚
- FP8 权重为原生支持，如需 BF16 权重需自行转换
- MTP（多令牌预测）模块支持仍在社区积极开发中
许可证
本代码仓库采用 MIT 许可证。DeepSeek-V3 Base/Chat 模型的使用受模型许可证约束。DeepSeek-V3 系列（包括 Base 和 Chat）支持商业使用。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境
运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。