模型介绍
中文整理Voxtral Mini 4B Realtime 2602 模型卡片
模型用途
Voxtral Mini 4B Realtime 2602 是一款多语言实时语音转录模型，是首批实现与离线系统精度相当的开源解决方案之一。
主要能力
该模型支持多语言语音转录，包括阿拉伯语、德语、英语、西班牙语、法语、印地语、意大利语、荷兰语、葡萄牙语、中文、日语、韩语和俄语。在基准测试中，Voxtral Mini 4B Realtime 与领先的离线模型相当，相比现有的开源实时解决方案有显著提升。
输入输出
输入：音频流
输出：转录文本
运行要求
硬件：单GPU，显存 >= 16GB
模型格式：BF16
软件依赖：vLLM（必需）、mistral-common >= 1.9.0、音频处理库
推荐：Transformers v5
默认最大模型长度：131072（约3小时音频）
推荐延迟：480ms
基本用法
- 从 nightly pypi 安装 vLLM
- 安装 mistral-common 及音频依赖
- 使用 vLLM 的 Realtime API 运行模型
- 可通过 websockets 设置音频流会话
- 也可使用 Transformers >= 5.2.0 原生运行
- ExecuTorch 支持本地设备部署
许可证
Apache 2.0 许可证
使用限制
由于其新颖的架构，Voxtral Realtime 目前仅支持 vLLM。社区贡献者欢迎将架构添加到 Transformers 和 Llama.cpp。ExecuTorch 版本未经充分测试。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。