模型详情
模型介绍 中文整理 # QwQ-32B-AWQ 模型卡片
## 模型简介
QwQ是Qwen系列的推理模型。与传统的指令微调模型相比，QwQ具备思考和推理能力，能够在下游任务中实现显著提升的性能，尤其擅长处理复杂难题。QwQ-32B是中型推理模型，能够与DeepSeek-R1、o1-mini等先进的推理模型竞争。
## 主要能力
思考与推理能力 在复杂问题处理上表现优异 性能可与当前最先进的推理模型媲美 ## 输入输出
模型类型：因果语言模型 上下文长度：131,072个token 运行要求 基于Qwen2.5架构 需要使用最新版本的Hugging Face transformers 对于超过8,192个token的提示词，必须启用YaRN技术 基本用法 本模型为AWQ量化版本，4位量化 架构采用RoPE、SwiGLU、RMSNorm和Attention QKV bias 参数总量：32.5B 非嵌入参数：31.0B 层数：64 注意力头数量（GQA）：Q为40个，KV为8个 限制 使用超长上下文（超过8,192个token）时需启用YaRN 许可证 许可证信息未在本模型卡片中提供。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么 完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知 运行环境 运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围 是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？ 登录后可提交反馈。
固定版本 · 多种下载方式
QwQ-32B-AWQ 模型下载 可下载完整仓库，也可选择所需版本或文件。
先选择下载线路 魔搭 ModelScope · 国内直连 魔搭固定版本：d553292b72cb437c8d42e94711d23d3a27469e6c。跨站版本号可以不同；仅核对权重和运行配置后提供对应线路，未代表已运行验证。
此模型提供已核对固定版本的魔搭线路，使用 ModelScope 工具下载。
选择下载内容
完整仓库 · 包含所有格式与精度 指定版本 / 文件 · 避免重复下载 只需要一种 GGUF 精度？先加载文件清单，再选所需版本。直接文件链接无需安装 Python；多分片可用下方命令一次下载。
加载可下载版本与文件
量化版本 / 文件 加载清单后选择 文件清单按当前固定版本读取，不会下载模型权重。
先选择你的系统 Windows · PowerShell Linux / macOS · 终端 命令下载：按下面步骤操作，可下载完整仓库或所选文件。直接文件链接不需要以下步骤。
1 打开下载用的窗口 在电脑上新建一个存放模型的文件夹，打开它；点击文件夹顶部地址栏，输入 powershell 后按回车。
如果电脑没有 Python，先从 Python 官网 安装。打开窗口后输入 python --version，出现版本号再继续。
2 首次使用，安装下载工具 复制下面这条命令，粘贴到刚打开的窗口，按回车并等待安装结束。
python -m pip install --upgrade huggingface_hub复制安装命令 已经安装过下载工具，可直接进入第 3 步。
3 执行下载命令 点击下方按钮，粘贴到同一个窗口，再按回车。工具会自动下载全部文件，不用逐个选择。
复制完整下载命令 复制命令不会自动开始下载，需要在你的设备上粘贴并执行。
下载完成后去哪里找？ 查看刚才选择的文件夹，里面会出现 models 文件夹。窗口不再显示下载进度、返回输入提示符且没有报错时，再检查文件是否齐全；“已复制”不代表“已下载”。
没反应、提示报错怎么办？ python 无法识别： 先安装 Python，关闭并重新打开窗口；Windows 安装时按安装器说明启用命令行访问。
hf 无法识别： 确认第 2 步安装成功，重新打开窗口。如果仍未识别，需将 Python 的 Scripts 目录加入用户 PATH；不要反复下载脚本。
网络中断： 保持相同文件夹，再执行相同下载命令，工具会检查已有文件。
权限或磁盘错误： 选择自己有写入权限且剩余空间充足的文件夹。不要关闭系统安全保护。
查看完整下载命令 请开启浏览器脚本，或使用默认 Windows 教程并展开命令手动复制执行。
