DeepSeek-R1-Distill-Qwen-1.5B

DeepSeek-R1 模型卡片

Model use case

DeepSeek-R1 是推理模型系列，主要用于数学、代码和推理任务。DeepSeek-R1-Zero 是首个通过大规模强化学习训练、无需监督微调而展现出强大推理能力的模型。DeepSeek-R1 在数学、代码和推理任务上的性能与 OpenAI-o1 相当。

主要能力

DeepSeek-R1-Zero 通过强化学习自然涌现出自我验证、反思和生成长链式思考（CoT）的能力。DeepSeek-R1 在此基础上加入冷启动数据，解决了无限重复、可读性差和语言混合等问题。模型能够进行逐步推理，并在数学问题上将最终答案放在 \boxed{} 中。蒸馏模型将大模型的推理能力迁移到小模型，DeepSeek-R1-Distill-Qwen-32B 在多项基准测试中超越 OpenAI-o1-mini。

输入输出

输入：用户提示，包含数学问题、代码任务或推理问题。数学问题建议在提示中加入"请逐步推理，并将最终答案放在 \boxed{} 中"。输出：包含链式思考过程的文本回答。

运行要求

DeepSeek-R1 和 DeepSeek-R1-Zero：总参数 671B，激活参数 37B，上下文长度 128K，基于 DeepSeek-V3-Base 训练。蒸馏模型包括 1.5B、7B、8B、14B、32B 和 70B 参数版本，基于 Qwen2.5 和 Llama3 系列微调。推荐温度范围 0.5-0.7（建议 0.6），避免使用系统提示，所有指令应放在用户提示中。建议在输出开头强制使用"\ \n"以确保模型进行充分推理。评估时建议多次测试取平均值。

基本用法

蒸馏模型可像 Qwen 或 Llama 模型一样使用，可通过 vLLM 或 SGLang 启动服务。也可在 DeepSeek 官网 chat.deepseek.com 聊天，切换"DeepThink"模式。API 可通过 DeepSeek 平台 platform.deepseek.com 调用。

限制

DeepSeek-R1-Zero 存在无限重复、可读性差和语言混合的问题。DeepSeek-R1 系列模型在某些查询下可能跳过思考模式（即输出"\ \n\n\ "），影响性能。需按推荐配置使用以获得预期性能。

许可证

代码和模型权重采用 MIT 许可证。DeepSeek-R1 系列支持商业使用，允许任何修改和衍生工作，包括蒸馏用于训练其他大语言模型。蒸馏模型基于不同基础模型：DeepSeek-R1-Distill-Qwen 系列基于 Qwen2.5 系列（Apache 2.0 许可证），DeepSeek-R1-Distill-Llama-8B 基于 Llama3.1-8B-Base（Llama3.1 许可证），DeepSeek-R1-Distill-Llama-70B 基于 Llama3.3-70B-Instruct（Llama3.3 许可证）。