Model details
模型介绍
中文整理LFM3-Omni-2B-MNN
原始模型 · Hugging Face · ModelScope · MNN
Liquid AI LFM3 系列的多模态模型。本仓库提供其 MNN 量化版本。
模型信息
项目 配置
输入 / 输出 文本、图片、视频帧、语音 / 文本、语音
语言权重、输出头与共享词嵌入 HQQ INT4,分组 64,FP16 尺度
视觉编码器 INT8
音频编码器 INT8
语音 depth / codec FP16
音频嵌入 BF16
默认运行配置 CPU,4 线程, precision=low , memory=low
模型文件包括 llm.mnn / llm.mnn.weight (语言模型)、 tokenizer.mtok (分词器)、 config.json / llm config.json (配置)、 visual.mnn / visual.mnn.weight (视觉编码器)、 audio.mnn 、 depth.mnn 、 codec.mnn 及对应权重、 audio embeddings bf16.bin (语音模块)。下载时保留完整目录。
Download
Hugging Face:
ModelScope:
运行
使用包含 LFM3 支持的以下 MNN 提交:
Apple Silicon 使用 Metal 时,编译加 -DMNN METAL=ON ,并将 config.json 的 backend type 设为 metal 。 mllm 子配置保留 CPU。
视频帧通过 MultimodalPrompt 输入。
语音合成调用 Llm::generateTTS ,通过 setWavformCallback 接收 24 kHz 波形。
采样参数在 config.json 中调整。应用集成见 MNN-LLM 文档。
验证与导出
2026-11-17,macOS Apple Silicon。英文语音识别:CPU 与 Metal 冒烟测试通过;Metal 图片问答、语音合成、图文语音联合输入与合成后回识别测试通过。视频输入使用静态图片重复帧。中文交错输出用例出现文字与语音不一致,原始模型和 MNN 均有此现象。
来源版本、量化信息与测试记录见 conversion manifest.json。
License
采用上游 LFM Open License v1.0。商业使用条件见许可证第 5 节。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.