模型介绍
中文整理TIPS — So400m/14 (v1)
模型简介
TIPS (Text-Image Pre-training with Spatial awareness) 是对比学习视觉语言模型家族，能够生成与文本嵌入对齐的空间丰富图像特征。这是原始 v1 版本，包含 413M 视觉参数和 448M 文本参数。
变体参数
S/14：22M 视觉参数，34M 文本参数，嵌入维度 384，分辨率 448
B/14：86M 视觉参数，110M 文本参数，嵌入维度 768，分辨率 448
L/14：304M 视觉参数，184M 文本参数，嵌入维度 1024，分辨率 448
So400m/14：413M 视觉参数，448M 文本参数，嵌入维度 1152，分辨率 448
g/14：1.1B 视觉参数，389M 文本参数，嵌入维度 1536，分辨率 448
g/14 low-res：1.1B 视觉参数，389M 文本参数，嵌入维度 1536，分辨率 224
模型用途
用于图像-文本对比学习，产生空间感知的视觉特征，可应用于零样本分类、图像检索等任务。
主要能力
生成与文本嵌入对齐的空间丰富图像特征；支持零样本分类；支持空间特征可视化。
输入输出
图像输入：需转换为 [0, 1] 范围的张量（使用 ToTensor，无需 ImageNet 归一化）
文本输入：使用 SentencePiece 分词器，小写处理，最多 64 个 token
视觉输出：包含两个 CLS token，第二个 CLS token 在合成标题上训练，第一个在网络 alt-text 上训练，第一个 CLS token 与文本编码器对齐
运行要求
原生分辨率 448；其他需能被 patch 大小整除的分辨率可通过位置嵌入插值实现
视觉编码器：ViT-So400m/14（27 层，patch 大小 14，两个 CLS token）
文本编码器：27 层 transformer
基本用法
加载模型；编码图像；编码文本；零样本分类；可视化空间特征。
许可证
Apache 2.0
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。