模型介绍
中文整理DeepSeek-R1-7B-Qwen-MNN
本仓库是由 deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 转换的 MNN 文本推理包，输入 / 输出为文本 / 文本。
验收日期：**2026-11-12**；工具版本：**MNN 3.6.2**；源码提交： b0239771b07b317a258fbc384683bbd540741406 。
验证边界：仅验证 x64 CPU；ARM CPU FP16、Metal、OpenCL、Vulkan、CUDA 及移动设备均未验证。**
原始模型介绍
源配置声明架构 Qwen2ForCausalLM ，model type= qwen2 ，语言层数为 28。配置未声明路由专家；不根据仓库名称推断架构或参数量。本卡不转述未经本包测量的上游评测、性能或能力宣传；量化后输出仍可能出错。
项目 实际核验信息
- -- ---
原始模型 deepseek-ai/DeepSeek-R1-Distill-Qwen-7B
输入 / 输出 文本 / 文本；只导出语言模块
架构 / 类型 / 层数 Qwen2ForCausalLM / qwen2 / 28
语言主干线性权重 HQQ 4-bit；block=0；alpha bytes=2（FP16）；sym=false
LM 输出头 HQQ 4-bit；block=0；alpha bytes=2（FP16）；sym=false
输入嵌入 独立 BF16 文件 embeddings bf16.bin ；嵌入布局不等同于线性层尺度存储
配置上下文字段 max position embeddings=131072；不是实测最大上下文
下载
优先从 ModelScope 下载整包到明确目录：
bash
export MODEL DIR="$PWD/DeepSeek-R1-7B-Qwen-MNN"
python -m pip install -U modelscope
python -
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。