模型详情
模型介绍
中文整理# QwQ-32B-Preview 模型卡片
## 模型简介
QwQ-32B-Preview 是由 Qwen 团队开发的实验性研究模型，专注于推进 AI 推理能力。作为预览版本，该模型展示了有前景的分析能力，但存在几个重要的局限性。
模型用途
实验性研究模型，用于推进人工智能推理能力的研究。
## 主要能力
- 在数学和编码领域表现出色
- 具备有前景的分析能力
- 在常识推理和细微语言理解方面仍有改进空间
## 输入输出
- 输入格式：文本
- 输出格式：文本
- 模型类型：因果语言模型
- 上下文长度：32,768 个 token
运行要求
- 需要使用最新版本的 Hugging Face Transformers 库
- 模型代码已集成到 Transformers 最新版本中
基本用法
通过 Transformers 库加载并使用模型。
## 模型规格
- 训练阶段：预训练和后训练
- 架构：使用 RoPE、SwiGLU、RMSNorm 和 Attention QKV bias 的 transformers
- 参数总量：325 亿
- 非嵌入参数：310 亿
- 层数：64
- 注意力头数量（GQA）：Q 40 个，KV 8 个
限制
- 语言混合和代码切换：模型可能会混合语言或在语言间意外切换，影响回答的清晰度。
- 递归推理循环：模型可能进入循环推理模式，导致生成冗长的回答而无法得出结论性答案。
- 安全和伦理考量：模型需要增强的安全措施以确保可靠和安全的性能，部署时需谨慎。
- 性能和基准测试局限：模型在数学和编码方面表现优异，但在其他领域（如常识推理和细微语言理解）仍有改进空间。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖，以原作者说明为准。
授权范围是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。
