模型介绍
中文整理# DeepSeek-R1 模型卡片
模型用途
DeepSeek-R1系列是第一代推理模型,包括DeepSeek-R1-Zero和DeepSeek-R1。该系列模型主要用于数学、代码和推理任务。
## 主要能力
DeepSeek-R1-Zero是首个通过大规模强化学习训练、无需监督微调的推理模型,展现出自我验证、反思和生成长链思考(CoT)的能力。DeepSeek-R1在数学、代码和推理任务上达到与OpenAI-o1相当的性能水平。
蒸馏模型方面,基于DeepSeek-R1生成的推理数据微调的Dense模型表现优异。DeepSeek-R1-Distill-Qwen-32B在各类基准测试中超越OpenAI-o1-mini,刷新了Dense模型的最佳成绩。
## 输入输出
输入支持最长128K tokens的上下文长度。输出最大生成长度为32,768 tokens。基准测试中采用temperature=0.6、top-p=0.95、每个问题生成64个回复来评估pass@1。
运行要求
DeepSeek-R1系列模型基于DeepSeek-V3-Base训练,参数规模为671B(激活37B)。运行前需参考DeepSeek-V3仓库获取本地运行指南。注意Hugging Face Transformers尚未直接支持该模型。蒸馏模型可使用vLLM或SGLang部署。
基本用法
使用建议:
- 温度设置范围为0.5-0.7,推荐0.6,可防止无限重复或输出不连贯
- 不添加系统提示,所有指令放在用户提示中
- 数学问题建议在提示中加入"请逐步推理,并将最终答案放在\boxed{}中"
- 评估模型性能时建议多次测试取平均值
- 为确保模型进行充分推理,建议强制模型以"\ \n"开始回复
限制
DeepSeek-R1-Zero存在无限重复、输出可读性差、语言混合等问题。DeepSeek-R1通过加入冷启动数据改善了这些问题。模型在某些查询中可能跳过思考模式(即输出"\ \n\n\ "),影响性能表现。
许可证
本代码仓库和模型权重采用MIT许可证。DeepSeek-R1系列支持商业使用,允许任何修改和衍生工作,包括蒸馏用于训练其他大语言模型。
蒸馏模型许可证说明:
- DeepSeek-R1-Distill-Qwen-1.5B/7B/14B/32B基于Qwen2.5系列,原许可证为Apache 2.0,使用DeepSeek-R1生成的80万样本微调
- DeepSeek-R1-Distill-Llama-8B基于Llama3.1-8B-Base,原许可证为llama3.1
- DeepSeek-R1-Distill-Llama-70B基于Llama3.3-70B-Instruct,原许可证为llama3.3
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
