模型介绍
中文整理Qwen3-ASR-0.6B GGUF (混合推理格式)
将 Qwen3-ASR-0.6B 与 Qwen3-ForcedAligner-0.6B 转换为可本地高效运行的混合格式,实现**快速、准确的离线语音识别与字级时间戳对齐**。
主要依赖 llama.cpp 加速 LLM Decoder,ONNX Runtime 加速 Encoder。
转换工具与推理引擎:Qwen3-ASR-GGUF
模型文件
文件 来源 精度 大小 说明
- ----------------------------------------- ------------------------ ----- -------- ---------------------------
qwen3 asr encoder frontend.int4.onnx Qwen3-ASR-0.6B INT4 19.4 MB ASR 编码器前段 (CNN)
qwen3 asr encoder backend.int4.onnx Qwen3-ASR-0.6B INT4 90.4 MB ASR 编码器后段 (Transformer)
qwen3 asr llm.q4 k.gguf Qwen3-ASR-0.6B Q4\ K 461.8 MB ASR 解码器 (LLM)
qwen3 aligner encoder frontend.int4.onnx Qwen3-ForcedAligner-0.6B INT4 19.9 MB Aligner 编码器前段 (CNN)
qwen3 aligner encoder backend.int4.onnx Qwen3-ForcedAligner-0.6B INT4 156.6 MB Aligner 编码器后段 (Transformer)
qwen3 aligner llm.q4 k.gguf Qwen3-ForcedAligner-0.6B Q4\ K 462.0 MB Aligner 解码器 (LLM)
量化说明
- *Encoder (ONNX)**:INT4 量化 (MatMulNBits, block\ size=128),与 FP16 输出的数值余弦相似度 96%,对语音识别精度影响可忽略
- *Decoder (GGUF)**:Q4\ K 量化,比 FP16 输出的困惑度仅增加 8.7%,对语音识别精度影响可忽略
如需其他精度 (FP32 / FP16 / INT8),可使用 Qwen3-ASR-GGUF 的导出脚本自行转换。
核心特性
- *纯本地运行** — 无需网络,数据不外传
- *速度快** — 混合推理架构 (ONNX Encoder + GGUF Decoder),GPU 加速下 RTF 可达 0.05(20 倍实时速度)
- *GPU 加速** — 支持 DirectML (Encoder) / Vulkan (Decoder)
- *流式输出** — 无限时长的音频文件,流式转录
- *字幕输出** — ForceAligner 对齐字级时间戳,输出 SRT / JSON 格式
- *上下文增强** — 可提供上下文信息,提升准确率
- *多语言** — 支持 30 种语言和 22 种中文方言的识别
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
