模型详情
模型介绍
中文整理# Muse Glimmer 模型卡片
模型用途
Muse Glimmer 是一个 300 亿参数的因果语言模型,配备专用感知编码器,从 Muse Spark 蒸馏而来,专为消费级硬件上的自主智能体任务构建。该模型将多步推理、可靠工具使用、多模态理解和失败恢复集成到单个模型中,可本地运行,无需云基础设施或网络访问。
## 主要能力
- *端到端智能体任务完成**:在 DeepSearch QA、MCP-Atlas、τ3-Bench 和 SWE-Bench 等完整任务基准测试中取得较高成功率,能够在脚手架内工作、编写和调试代码、从头到尾完成多轮请求。
- *可靠的工具调用**:模型能够处理广泛的函数调用,在扩展的工作流程中使用精确的模式调用工具。
- *多步推理**:模型能够在较长时间跨度内进行连贯的推理,在复杂扩展的工作流程中维持一致的计划。
- *失败恢复**:当工具调用失败或返回意外结果时,模型会诊断错误并重试,而不是停止。
- *多模态输入和推理**:通过专用感知编码器,模型接受交错的文本和图像输入,使智能体能够解读截图、图表和文档。
- *脚手架兼容性**:Muse Glimmer 可在 OpenClaw、Hermes Agent 和其他智能体编排模式下工作。
- *可控推理强度**:模型支持不同的推理强度,以在质量和速度之间选择合适的平衡。
- *多语言支持**:模型在超过 100 种语言的数据上进行训练。
## 输入输出
- *输入**:文本和图像(交错输入)
- *输出**:文本
- *上下文长度**:131,072 个标记
- *每张图像最大视觉标记数**:4,096
运行要求
- *硬件配置**:
- 全精度模型:约 120GB 存储
- 4 位量化模型:约 17GB 存储
- 推荐显存:24GB 或 32GB VRAM
- *优化技术**:
- 量化技术将模型权重压缩至约 4 位精度
- 配备基于 DFlash 的轻量级起草模型用于推测解码
- 支持在消费级硬件上以实用速度运行
基本用法
- *采样参数建议**:
- temperature = 1.0
- top_p = 0.95
- top_k = 64
- *推理强度控制**:推理强度控制模型在响应提示之前的思考量。可在系统提示中定义为"Reasoning strength: "。Muse Glimmer 支持以下级别:低/中/高/xhigh。对于复杂问题解决、编码和智能体任务,建议使用高或 xhigh。
限制
- 模型可能产生不准确、有偏见或令人反对的回复
- 虽然针对智能体任务进行了优化,但在多步推理中仍可能出错,特别是在训练数据中表现不佳的新场景中
- 模型未针对视频进行专门优化;视频输入被处理为单独帧
- 模型未在预训练数据包含的所有语言上进行评估;在强支持语言集之外的语言上,性能可能下降
- 量化推理在边缘情况下可能与全精度存在细微差异
- 模型不适用于 18 岁以下用户。在部署于可能被 18 岁以下用户使用的系统中时,部署者有责任确保已充分评估并适当缓解相关风险
许可证
Apache 2.0
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境
运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
