资讯详情

资讯详情

EVIE-4.5B发布:为什么这款4.5B视觉文档检索模型能登顶ViDoRe SOTA榜单?

EVIE-4.5B发布为什么这款4.5B视觉文档检索模型能登顶ViDoRe SOTA榜单【免费下载链接】EVIE-4.5B项目地址: https://ai.gitcode.com/tencent_hunyuan/EVIE-4.5BEVIE-4.5B 是腾讯开源的一款轻量级视觉文档检索模型Visual Document Retrieval基于 Qwen3.5 多模态底座仅 4.5B 参数就在 ViDoRe V3 官方榜单上拿下 65.70 分、位列第二与 8B 旗舰版共同包揽前两名。它不用 OCR直接看图检索把文档页面和自然语言查询各自编码成一组向量用多向量晚交互late-interaction逐 token 比对从而精准命中复杂表格、图表和小字号排版。本文带你快速看懂它的核心技术、榜单成绩和上手方法。 什么是视觉文档检索EVIE-4.5B 解决什么问题传统先 OCR 再文本检索的方案会把整页文档压成一段纯文本表格结构、图表、版面布局这些信息全部丢失。视觉文档检索VDR的思路完全不同文档端直接把页面图片送进视觉语言模型得到一组多向量表示查询端用一句自然语言提问如第三季度的总收入是多少得到查询向量匹配通过 MaxSim 晚交互打分查询的每个 token 去找文档中最像的那个 token再求和。下面这张发票页面图就来自仓库内置的检索演示集EVIE-4.5B 可以直接对这类图片做语义检索模型架构配置见 config.json底座为ColQwen3_5嵌入维度最高 2048原生支持 64/128/256/512/1024/2048 六档 Matryoshka 头。 登顶 ViDoRe 榜单成绩有多能打在 ViDoRe 官方排行榜V3, Mean Task上EVIE 双模型包揽前二在完整 138 任务评测矩阵中EVIE-4.5B 拿下 ViDoRe V1 的 92.53、V2 的 74.91、V3 的 66.02nDCG10四项榜单宏平均 78.98。排名模型参数量ViDoRe V3 均分 #1EVIE-8B8.4B66.24 #2EVIE-4.5B4.5B65.70#3webAI-ColVec1.1-8b8.4B64.95#4VultronRetrieverPrime-Qwen3.5-8B8.4B64.26亮点在于4.5B 的 EVIE-4.5B 以一半的参数量把同级别的 ColVec1.1-4b63.90甩开近 2 分。分领域看它在计算机科学81.72、能源72.32、医药70.27等硬核领域均超过多数 8B 对手。 三大核心技术一次讲透1️⃣ 多向量晚交互细节不丢失的关键稠密单向量检索把一整页压缩成一个点高分辨率细节复杂表格、小字号 inevitably 被平均掉。EVIE 保留每个 token 的独立向量用公式S(Q,D) Σᵢ maxⱼ (qᵢ·dⱼ)打分——查询词落在哪文档里对应的局部区域就负责回应这是它在表格和图表页面上大幅领先的原因。2️⃣ Prefix-MRL一个检查点6 种维度随便切EVIE-4.5B 用单个 2048D 线性投影头做弹性表示运行时截断到任意前缀维度即可无需为每个维度训练独立模型维度每向量大小ViDoRe V3 (nDCG10)20484 KiB66.025121 KiB65.90256512 B65.6864128 B64.51截断到 64D 仅损失约 1.5 分而索引体积缩到 1/32——部署时按存储预算自由取舍。3️⃣ HAC 无损压缩每页从 750 个向量减到 32 个原始晚交互表示每页约 750 个 patch 向量索引开销巨大。EVIE 集成免训练的层次凝聚聚类HAC在语义位置联合空间里把 patch 聚成 32 个语义中心源码见 code/compress/hac/core.py100 万页索引仅需3.81 GiB且无需重新训练模型SKU每页向量数100 万页索引ViDoRe V3d64 K32323.81 GiB59.58d64 K64647.63 GiB62.06 快速上手三条命令跑起图片文档检索仓库自带 8 页演示文档发票、财报、专利、组织架构图等克隆后三步即可体验git clone https://gitcode.com/tencent_hunyuan/EVIE-4.5B cd EVIE-4.5B pip install -r requirements.txt python infer.py \ --query What is the total quarterly revenue? \ --image examples/demo/pages/q3_revenue.png \ --image examples/demo/pages/invoice_4412.png独立推理 CLIinfer.py支持--head 128切换 Matryoshka 维度、--device cpu无显卡回退一键评测 8 页 demoexamples/demo/run.sh输出 nDCG/Recall 等完整指标也兼容 sentence-transformers 的MultiVectorEncoder接口几行代码即可接入现有检索管线。 仓库结构与进阶资源仓库已完整开源模型权重、训练管线和压缩算法目录结构清晰模型权重与配置model.safetensors、config.json多向量检索引擎ColQwen3.5 Prefix-MRLcolpali/8B 教师模型训练与合并code/teacher/4.5B 学生模型 ARD 蒸馏训练code/student/HAC 压缩管线code/compress/138 任务评测框架code/shared/环境变量模板env.sh.example想完整复现 4.5B 蒸馏流程按顺序执行bash code/teacher/run.sh→bash code/student/run.sh→bash code/shared/eval_run.sh即可详见 README.md。✅ 小结为什么值得你关注精度ViDoRe V3 榜单 66.02nDCG104.5B 小模型打赢一众 8B 大模型灵活Prefix-MRL 单头弹性维度64D–2048D一份权重覆盖多种部署场景省存储HAC 免训练压缩每页 32 个向量百万页索引仅 3.81 GiB全开源权重、训练代码、压缩算法、评测套件一应俱全Apache-2.0 协议可商用。如果你的业务里有用一句话找文档图片的需求——财报检索、合同定位、专利比对、报错截图溯源——EVIE-4.5B 是目前开源阵营里精度与体积平衡得最好的选择之一。【免费下载链接】EVIE-4.5B项目地址: https://ai.gitcode.com/tencent_hunyuan/EVIE-4.5B创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
觉得有用,分享给同行:

为您的企业打造数字门面

稳重轻奢商务风格,端正雅致视觉,长效耐看不易过时。

立即咨询 →