模型介绍
中文整理DeepSeek-R1 模型卡片
模型用途
DeepSeek-R1 是深度求索公司推出的第一代推理模型,包括 DeepSeek-R1-Zero 和 DeepSeek-R1 两个版本。该系列模型专注于数学、代码和推理任务,在相关基准测试中达到了与 OpenAI-o1 相当的性能水平。
主要能力
DeepSeek-R1-Zero 通过大规模强化学习直接训练基础模型,无需监督微调作为前置步骤,展现出自我验证、反思和生成长链式思考的能力。DeepSeek-R1 在此基础上引入了冷启动数据,进一步提升了推理性能并解决了无限重复、可读性差和语言混合等问题。模型支持将大模型的推理模式蒸馏到较小的模型中,蒸馏后的小模型在各项基准测试中表现优异。
输入输出
模型支持最长 32,768 个 token 的生成长度。建议将温度设置为 0.5-0.7 范围内(推荐 0.6),top-p 值设为 0.95。对于数学问题,建议在提示中包含“请逐步推理,并将最终答案放在 \boxed{} 中”这样的指令。避免添加系统提示,所有指令应包含在用户提示中。评估时建议进行多次测试并取平均值。
运行要求
DeepSeek-R1-Zero 和 DeepSeek-R1 的总参数量为 671B,激活参数量为 37B,支持 128K 上下文长度,基于 DeepSeek-V3-Base 训练。蒸馏模型包括基于 Qwen2.5 系列的 1.5B、7B、14B、32B 版本,以及基于 Llama 系列的 8B 和 70B 版本。
基本用法
蒸馏模型的使用方式与 Qwen 或 Llama 模型相同,可通过 vLLM 或 SGLang 启动服务。
限制
DeepSeek-R1-Zero 存在无限重复、可读性差和语言混合等问题,DeepSeek-R1 通过引入冷启动数据部分解决了这些限制。
许可证
本代码仓库和模型权重采用 MIT 许可证。DeepSeek-R1 系列支持商业使用,允许进行任何修改和衍生工作,包括但不限于用于训练其他大语言模型的蒸馏。需要注意的是:DeepSeek-R1-Distill-Qwen 系列模型源自 Qwen2.5 系列,原许可证为 Apache 2.0;DeepSeek-R1-Distill-Llama-8B 源自 Llama3.1-8B-Base;DeepSeek-R1-Distill-Llama-70B 源自 Llama3.3-70B-Instruct。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
