All systems operationalAI Agent Automation Platform

flux-3-action-so101

black-forest-labs/flux-3-action-so101

发布机构Black Forest Labs已核实

下载访问条件国内镜像可用

FLUX 3 Action 是一个开源权重的 7B 世界动作模型。该模型接收摄像头画面、机器人状态和文本指令,返回下一段动作预测,同时生成去噪后的下一帧视频。 根据视觉观察、机器人状态和文本指令预测动作序列 采用 SO-101 策略,包含检查点自带的观察历史、摄像头布局和归一化参数

Embodied AI
模型详情

模型介绍

中文整理

# FLUX 3 Action SO-101 模型卡片

Model use case

FLUX 3 Action 是一个开源权重的 7B 世界动作模型。该模型接收摄像头画面、机器人状态和文本指令,返回下一段动作预测,同时生成去噪后的下一帧视频。

## 主要能力

  • 根据视觉观察、机器人状态和文本指令预测动作序列
  • 同时输出动作和对应的未来视频帧预测
  • 采用 SO-101 策略,包含检查点自带的观察历史、摄像头布局和归一化参数

## 输入输出

  • *输入:**
  • 两路摄像头画面:scene 场景摄像头和 wrist 手腕摄像头
  • 六维机器人状态/动作:关节增量动作配合绝对夹爪
  • 八维观察信息:两路视觉快照和历史指令条件
  • 文本指令
  • *输出:**
  • 预测 42 个动作,以 30 Hz 频率执行 32 个动作后重新规划
  • 去噪后的下一段视频帧
  • *运行要求:**
  • 采样参数:四步欧拉采样,shift 6.93,guidance 3,seed 42,BF16 精度
  • 需要加载本仓库提供的处理器流水线文件、归一化状态文件和 dataset statistics.json

基本用法

使用 FLUX3 集成,通过 shared-encoder Hub 子文件夹/修订版本支持加载。两个冻结编码器自动从基础仓库加载。本仓库不包含重复的编码器权重。

  • *任务适配:**

可使用随附的 lora.json 配方进行微调。该配方继承检查点的机器人/模型设置,训练 rank-32 LoRA,使用 bf16 混合精度,批量大小 2,梯度累积 4,训练 10000 步。

限制

该模型输出关节目标,但模型本身不限制关节速度、力或工作空间。应用程序必须强制执行这些限制,并在可触及范围内保持硬件急停。在人员附近运行前,需在模拟器上验证或启用机械臂安全限制。

该模型及其衍生作品不得用于:

  • 任何违反适用法律的方式
  • 在无人监督且无停止手段的情况下控制可能危及人类的机器
  • 用于全自动决策或对个人法律权利产生负面影响的高风险应用
  • 骚扰、虐待、威胁、跟踪或欺凌个人或群体
  • 以任何方式剥削、伤害或企图剥削或伤害未成年人

许可证

本模型采用 FLUX Kommunity License v.1.0 许可证。flux-3-action-base 中的文本编码器是 Qwen3-VL-4B-Instruct 的未修改副本,采用 Apache-2.0 许可证。flux-action 代码具有独立的许可证。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

Back to top