All systems operationalAI Agent Automation Platform
English
Language简体中文EnglishSelected

Choose your language

Qwen3-ASR-0.6B-gguf

nzyaltair/Qwen3-ASR-0.6B-gguf

Publishernzyaltair

Download access requirementsModelScope source

Qwen3-ASR-0.6B GGUF (混合推理格式) 将 Qwen3-ASR-0.6B 与 Qwen3-ForcedAligner-0.6B 转换为可本地高效运行的混合格式,实现快速、准确的离线语音识别与字级时间戳对齐。 主要依赖 llama.cpp 加速 LLM Decoder,ONNX Runtime 加速 Encoder。

Speech & Audio
Model details

模型介绍

中文整理

Qwen3-ASR-0.6B GGUF (混合推理格式)

将 Qwen3-ASR-0.6B 与 Qwen3-ForcedAligner-0.6B 转换为可本地高效运行的混合格式,实现**快速、准确的离线语音识别与字级时间戳对齐**。

主要依赖 llama.cpp 加速 LLM Decoder,ONNX Runtime 加速 Encoder。

转换工具与推理引擎:Qwen3-ASR-GGUF

模型文件

文件 来源 精度 大小 说明

  • ----------------------------------------- ------------------------ ----- -------- ---------------------------

qwen3 asr encoder frontend.int4.onnx Qwen3-ASR-0.6B INT4 19.4 MB ASR 编码器前段 (CNN)

qwen3 asr encoder backend.int4.onnx Qwen3-ASR-0.6B INT4 90.4 MB ASR 编码器后段 (Transformer)

qwen3 asr llm.q4 k.gguf Qwen3-ASR-0.6B Q4\ K 461.8 MB ASR 解码器 (LLM)

qwen3 aligner encoder frontend.int4.onnx Qwen3-ForcedAligner-0.6B INT4 19.9 MB Aligner 编码器前段 (CNN)

qwen3 aligner encoder backend.int4.onnx Qwen3-ForcedAligner-0.6B INT4 156.6 MB Aligner 编码器后段 (Transformer)

qwen3 aligner llm.q4 k.gguf Qwen3-ForcedAligner-0.6B Q4\ K 462.0 MB Aligner 解码器 (LLM)

量化说明

  • *Encoder (ONNX)**:INT4 量化 (MatMulNBits, block\ size=128),与 FP16 输出的数值余弦相似度 96%,对语音识别精度影响可忽略
  • *Decoder (GGUF)**:Q4\ K 量化,比 FP16 输出的困惑度仅增加 8.7%,对语音识别精度影响可忽略

如需其他精度 (FP32 / FP16 / INT8),可使用 Qwen3-ASR-GGUF 的导出脚本自行转换。

核心特性

  • *纯本地运行** — 无需网络,数据不外传
  • *速度快** — 混合推理架构 (ONNX Encoder + GGUF Decoder),GPU 加速下 RTF 可达 0.05(20 倍实时速度)
  • *GPU 加速** — 支持 DirectML (Encoder) / Vulkan (Decoder)
  • *流式输出** — 无限时长的音频文件,流式转录
  • *字幕输出** — ForceAligner 对齐字级时间戳,输出 SRT / JSON 格式
  • *上下文增强** — 可提供上下文信息,提升准确率
  • *多语言** — 支持 30 种语言和 22 种中文方言的识别

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

Back to top