模型介绍
中文整理EVA-CLIP-18B：规模扩展至180亿参数的CLIP模型
模型用途
EVA-CLIP-18B是一个用于对比语言-图像预训练的CLIP模型，可执行零样本图像分类、视频分类和图像文本检索等多模态任务。
主要能力
该模型在27个广泛使用的图像分类基准测试中实现了80.7%的零样本top-1准确率，显著优于其前代EVA-CLIP（50亿参数）及其他开源CLIP模型。模型规模扩展时性能持续提升，验证了EVA风格弱到强的视觉模型扩展潜力。
输入输出
输入为图像和配对的文本描述，输出为图像和文本的特征向量表示，可用于零样本分类任务。
运行要求
模型参数量为180亿参数，PyTorch权重文件大小约36.7GB（fp16精度）。训练时使用360块A100（40GB）GPU，批量大小为108K。推理时建议使用deepspeed.zero.Init()以降低CPU内存需求。
基本用法
模型权重通过Hugging Face和GitHub公开提供。用户可使用eva clip/factory.py中的load_zero_partitions()函数加载预训练检查点。
限制
论文中所有结果均使用PyTorch权重评估，使用Hugging Face模型时可能存在性能差异。
许可证
模型权重已公开可用，具体许可证信息请参阅项目页面。
优先采用原作者提供的中文模型卡片；仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件；指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖，请按作者说明配齐。
完整仓库可能包含多个权重格式，因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行模型需要的设备、工具与依赖，以原作者说明为准。
是否允许商用、修改和分发，请查看模型许可证。
闲社提供资料与镜像下载方法，不代表已运行模型或完成安全审计。下载的代码应先检查，再执行。
资料或下载有问题？
登录后可提交反馈。