Model details
模型介绍
中文整理EvoQwen2.5-VL-Retriever-7B-v1 是一个基于 Qwen2.5-VL-7B-Instruct 主干网络和多向量后期交互(multi-vector late-interaction)的高性能多模态检索模型。该模型通过创新性的进化式训练框架(Evo-Retriever)微调,从而实现精准的复杂视觉文档检索能力。
版本特性**** ****(Version Specificity)**
- *基础模型**** ****(Base Model)**: ApsaraStackMaaS/EvoQwen2.5-VL-Retriever-7B-v1
- *参数规模**** ****(Size)**: 70亿 (7B)
- *特点**** ****(Features)**: 7B版本在所有评估基准上均提供最高的检索精度。它非常适合对性能要求极致的应用场景。
性能**** ****(Performance)**
- *模型** ViDoRe V2(nDCG@5) MMEB VisDoc(ndcg linear@5)
:--- :--- :---
ApsaraStackMaaS/EvoQwen2.5-VL-Retriever-3B-v1 **63.00** **75.96**
ApsaraStackMaaS/EvoQwen2.5-VL-Retriever-7B-v1 65.24 **77.10**
使用方法**** ****(Usage)**
请确保已安装 transformers, torch, Pillow,colpali engine 。
Parameters / 参数**
所有模型都使用Evo-Retriever 训练范式进行一个为期两阶段、每阶段一个epoch的训练课程进行微调。除非另有说明,我们采用低秩适配器(LoRA)进行参数高效的微调,其中3B和7B模型的LoRA秩(rank)均设置为32。我们以 bfloat16 格式训练模型,并使用 paged adamw 8bit 优化器。训练在一个包含8块H20 GPU的服务器上进行,采用数据并行策略,学习率为 2e-5 并配合余弦衰减和2%的预热步数,批量大小为32。
Citation / 引用**
优先采用原作者提供的中文模型卡片;仅有英文说明时由闲社AI翻译整理。重要参数、许可证和商用范围请以原文为准。
你将获得什么
完整仓库方式包含该固定版本中的权重、配置、分词器及说明文件;指定版本方式只下载所选文件或整组分片。多模态模型的投影文件、配置等依赖,请按作者说明配齐。
完整仓库可能包含多个权重格式,因此需要的磁盘空间可能大于单一格式的模型大小。下载文件不等于完成模型部署。
使用前须知
运行环境运行模型需要的设备、工具与依赖,以原作者说明为准。
授权范围是否允许商用、修改和分发,请查看模型许可证。
闲社提供资料与镜像下载方法,不代表已运行模型或完成安全审计。下载的代码应先检查,再执行。
Problem with the information or download?
Sign in to submit feedback.