All systems operationalAI Agent Automation Platform

VerseCrafter

TencentARC/VerseCrafter

发布机构TencentARC

下载访问条件国内镜像可用

VerseCrafter 是一个可控的视频世界模型,能够对相机和多目标运动进行显式的4D几何控制。 动态现实视频世界模型:VerseCrafter 从大规模真实数据中学习现实且可控的视频世界先验,能够处理具有强时空一致性的挑战性动态场景。 4D几何控制:统一的4D控制状态提供对相机运动、多目标运动及其协同的直接、可解释控制,提升几何真实性。

Video Generation
模型详情

模型介绍

中文整理

# VerseCrafter 模型卡片

Model use case

VerseCrafter 是一个可控的视频世界模型,能够对相机和多目标运动进行显式的4D几何控制。

## 主要能力

  • *动态现实视频世界模型**:VerseCrafter 从大规模真实数据中学习现实且可控的视频世界先验,能够处理具有强时空一致性的挑战性动态场景。
  • *4D几何控制**:统一的4D控制状态提供对相机运动、多目标运动及其协同的直接、可解释控制,提升几何真实性。
  • *冻结视频先验 + GeoAdapter**:将几何感知的GeoAdapter连接到冻结的Wan2.1主干网络,将4D控制注入扩散块,在不牺牲视频质量的前提下实现精确控制。

## 输入输出

  • *输入控制信号**:相机轨迹 + 3D高斯物体轨迹
  • *输出**:81帧视频,分辨率720×1280

运行要求

  • *基础模型**:Wan2.1-T2V-14B
  • *架构**:冻结的DiT + 可训练的GeoAdapter
  • *分辨率**:720×1280
  • *帧数**:81帧

基本用法

完整流程包括深度估计、分割、3D高斯拟合、在Blender中自定义轨迹以及视频生成。具体安装和推理步骤请参考GitHub仓库。

限制

本项目仅供学术研究使用,禁止商业用途。

许可证

本项目基于VerseCrafter许可证发布,仅限学术研究目的,禁止商业使用。

## 致谢

本工作基于MoGe、Grounded-SAM-2、VideoX-Fun、Wan2.1和diffusers构建。

优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。

你将获得什么

完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。

完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。

使用前须知

运行环境

运行模型需要的设备、工具与依赖,以原作者说明为准。

授权范围

是否允许商用、修改和分发,请查看模型许可证。

闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。

Back to top