模型介绍
中文整理SCoPE: 视线坐标位置编码用于视频扩散变换器
Model use case
SCoPE将相机视线作为位置坐标添加到预训练的视频扩散变换器中。根据给定的第一帧、文本提示和相机轨迹,生成遵循指定相机运动的视频,同时保留原始图像到视频的生成能力。
主要能力
图像到视频生成、可控相机运动
输入输出
输入:第一帧图像、文本提示、相机轨迹
输出:视频
运行要求
检查点文件约67 GB,需本地存储。推荐使用PyTorch 2.9.1和CUDA 12.8环境运行。
基本用法
安装SCoPE代码后,可使用示例相机轨迹生成视频。相机位姿使用OpenCV相机到世界坐标格式,形状需为[81, 3, 4]或[81, 4, 4]。x fov为水平视场角(弧度),针孔相机参数xi=0。
限制
本模型继承Wan2.2的视觉能力、偏差、安全限制和计算需求。相机位姿或内参不准确、轨迹超出训练分布范围、大面积遮挡或相机运动过快均可能导致生成质量下降。
许可证
Apache-2.0
训练数据
使用RealEstate10K、DL3DV、PanShot和OmniWorld数据集训练。数据集采用统一相机协议:位姿相对于首相机表示,translation使用每片段近景深度归一化。用户需遵守各数据集的许可条款。
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖,以原作者说明为准。
是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
资料或下载有问题?
登录后可提交反馈。
