闲社服务运行正常AI智能体自动化平台

Muse-Glimmer-30B

meta-models/Muse-Glimmer-30B

发布机构meta-models

下载访问条件魔搭来源

Muse Glimmer 是一个 300 亿参数的因果语言模型,配备专用感知编码器,从 Muse Spark 蒸馏而来,专为消费级硬件上的自主智能体任务构建。该模型将多步推理、可靠工具使用、多模态理解和失败恢复集成到单个模型中,可本地运行,无需云基础设施或网络访问。 端到端智能体任务完成:在 DeepSearch QA、MCP-Atlas、τ3-Bench 和 SWE-Bench 等完整任务基准测试中取得较高成功率,能够在脚手架内工作、编写和调试代码、从头到尾完成多轮请求。

图文理解推理思考编程开发
模型详情

模型介绍

中文整理

# Muse Glimmer 模型卡片

模型用途

Muse Glimmer 是一个 300 亿参数的因果语言模型,配备专用感知编码器,从 Muse Spark 蒸馏而来,专为消费级硬件上的自主智能体任务构建。该模型将多步推理、可靠工具使用、多模态理解和失败恢复集成到单个模型中,可本地运行,无需云基础设施或网络访问。

## 主要能力

  • *端到端智能体任务完成**:在 DeepSearch QA、MCP-Atlas、τ3-Bench 和 SWE-Bench 等完整任务基准测试中取得较高成功率,能够在脚手架内工作、编写和调试代码、从头到尾完成多轮请求。
  • *可靠的工具调用**:模型能够处理广泛的函数调用,在扩展的工作流程中使用精确的模式调用工具。
  • *多步推理**:模型能够在较长时间跨度内进行连贯的推理,在复杂扩展的工作流程中维持一致的计划。
  • *失败恢复**:当工具调用失败或返回意外结果时,模型会诊断错误并重试,而不是停止。
  • *多模态输入和推理**:通过专用感知编码器,模型接受交错的文本和图像输入,使智能体能够解读截图、图表和文档。
  • *脚手架兼容性**:Muse Glimmer 可在 OpenClaw、Hermes Agent 和其他智能体编排模式下工作。
  • *可控推理强度**:模型支持不同的推理强度,以在质量和速度之间选择合适的平衡。
  • *多语言支持**:模型在超过 100 种语言的数据上进行训练。

## 输入输出

  • *输入**:文本和图像(交错输入)
  • *输出**:文本
  • *上下文长度**:131,072 个标记
  • *每张图像最大视觉标记数**:4,096

运行要求

  • *硬件配置**:
  • 全精度模型:约 120GB 存储
  • 4 位量化模型:约 17GB 存储
  • 推荐显存:24GB 或 32GB VRAM
  • *优化技术**:
  • 量化技术将模型权重压缩至约 4 位精度
  • 配备基于 DFlash 的轻量级起草模型用于推测解码
  • 支持在消费级硬件上以实用速度运行

基本用法

  • *采样参数建议**:
  • temperature = 1.0
  • top_p = 0.95
  • top_k = 64
  • *推理强度控制**:推理强度控制模型在响应提示之前的思考量。可在系统提示中定义为"Reasoning strength: "。Muse Glimmer 支持以下级别:低/中/高/xhigh。对于复杂问题解决、编码和智能体任务,建议使用高或 xhigh。

限制

  • 模型可能产生不准确、有偏见或令人反对的回复
  • 虽然针对智能体任务进行了优化,但在多步推理中仍可能出错,特别是在训练数据中表现不佳的新场景中
  • 模型未针对视频进行专门优化;视频输入被处理为单独帧
  • 模型未在预训练数据包含的所有语言上进行评估;在强支持语言集之外的语言上,性能可能下降
  • 量化推理在边缘情况下可能与全精度存在细微差异
  • 模型不适用于 18 岁以下用户。在部署于可能被 18 岁以下用户使用的系统中时,部署者有责任确保已充分评估并适当缓解相关风险

许可证

Apache 2.0

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

返回顶部