模型介绍
中文整理Qwen3-235B-A22B-Thinking-2507 模型卡片
模型用途
Qwen3-235B-A22B-Thinking-2507 是一个大规模语言模型，专注于增强思考能力。该模型在推理任务上实现了显著提升，包括逻辑推理、数学、科学、编程和学术基准测试，在开源思考模型中达到领先水平。同时模型在指令遵循、工具调用、文本生成和人类偏好对齐等通用能力方面也有明显改进，并具备增强的256K长上下文理解能力。此版本增加了思考长度，建议用于高度复杂的推理任务。
主要能力
模型类型：因果语言模型
训练阶段：预训练和后训练
参数总量：2350亿，激活参数220亿
非嵌入参数：2340亿
层数：94层
注意力头数量：Q使用64个，KV使用4个（分组查询注意力）
专家数量：128个，激活专家8个
原生上下文长度：262,144个token
仅支持思考模式
输入输出
输入：文本提示
输出：包含思考过程的文本响应，默认使用<reasoning>标签
支持最长约100万token的超长上下文处理（需特殊配置）
运行要求
处理100万token上下文需要约1000GB GPU显存（包含模型权重、KV缓存和激活内存）
建议推理时使用大于131,072的上下文长度
推荐配置：transformers>=4.6.6.post1 或 vllm>=0.8.5 或 SGLang
支持本地部署框架：Ollama、LMStudio、MLX-LM、llama.cpp、KTransformers
基本用法
采样参数建议：Temperature=0.6，TopP=0.95，TopK=20，MinP=0
大多数查询建议输出长度设为32,768个token
数学和编程竞赛等高复杂度问题建议最大输出长度81,920个token
数学问题提示建议包含"Please reason step by step, and put your final answer within \boxed{}."
多选题建议添加JSON结构指定答案格式
多轮对话中历史消息只需包含最终输出，无需包含思考内容
限制
仅支持思考模式，不支持非思考模式
思考长度增加，可能导致响应时间较长
超长上下文处理需要特殊配置和大量显存
高复杂度任务需要较大的输出长度以获得最佳性能
许可证
许可证信息未在模型卡中提供。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。