Model details
模型介绍
中文整理Houmo Qwen3-30B-A3B 8k
Qwen3-30B-A3B 是一款主打性能与效率平衡的开源混合专家(MoE)大语言模型,以 305 亿总参数、33 亿激活参数的设计成为中大型模型性价比标杆,支持 8K 上下文窗口长度。
模型描述
本模型为可部署到后摩芯片的设备上的预编译模型,已支持的模型规格:
芯片类型 软件版本 上下文长度 设备数 Core数 Batch数 HmmStrip
:--- :--- :--- :--- :--- :--- :---
XH2 v0.7.0 8192 tokens 1 2 1 no
XH2 v0.6.0 8192 tokens 1 2 1 no
模型实现来源于https://www.modelscope.cn/models/Qwen/Qwen3-30B-A3B。
模型限制与使用须知
适用场景:该模型适用于对话交互、内容创作、知识问答等场景,不建议用于高精度数学计算、代码生成等专业领域
输出局限性:模型可能会生成错误信息或不符合事实的内容,需用户自行甄别
安全提示:请勿输入违法、有害、歧视性内容,模型对这类内容的处理能力有限
下载模型
快速上手
基于后摩芯片设备,执行下述步骤即可轻松玩转模型。
- 下载模型
- 部署后摩大道软件环境
- 下载后摩示例包并解压
- 进入后摩示例包中 qwen3-30b-a3b 文件夹: cd models/llm/qwen3-30b-a3b
- 执行 python3 demo.py ,即可在后摩芯片运行模型。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.