TencentのEVIE、切り詰め可能なマルチベクトルとtokenクラスタリングで視覚文書検索のインデックスコストを削減

TencentはHugging FaceでEVIE-8BとEVIE-4.5Bの重みを公開し、推論、学習、および138項目の評価プロセスも提供した。この視覚文書検索モデルは、PDF、表、スキャンしたページを事前にプレーンテキストへ変換せず、Qwen3.5の視覚言語バックボーンを用いてtoken単位のマルチベクトル表現を生成する。その後、MaxSimによってテキストクエリとページ内の局所的な画像表現を照合する。これにより、フォント、レイアウト、グラフ、表の位置に敏感なRAGでも、すべての情報を単一のdense embeddingに圧縮する必要がなくなる。

84.1億パラメータのEVIE-8Bは4096次元の表現を使用し、主に大容量の教師モデルとして機能する。デプロイに適したEVIE-4.5Bは、Prefix-MRLによって単一の2048次元射影を学習しており、実行時には64、128、256、512、1024、2048次元のいずれかに切り詰められるため、複数のチェックポイントを保存する必要がない。また、再学習を必要としないHACプロセスでは、特徴距離と空間距離に基づいて視覚tokenをクラスタリングする。公式の例では約750ベクトルをページ当たり32ベクトルに圧縮し、100万ページ分のBF16未圧縮インデックスを3.81 GiBまで削減できると試算している。ただし、エンジニアリングチームはモデルファイルのサイズだけを比較するのではなく、ベクトルデータベースの構造、MaxSimの計算量、検索品質を併せて測定する必要がある。

Tencentの報告によると、EVIE-8BとEVIE-4.5BはViDoRe V3でそれぞれ66.75、66.02のnDCG@10を記録した。ただし、これらの数値は公開元が独自の評価プロセスで算出したもので、正式な論文やアーキテクチャのアブレーション分析はまだ公開されていない。モデルカード内の表でも、EVIE-8BはViDoRe V1で首位ではないことが示されている。また、8Bチェックポイントは2系統の学習ブランチの重みを混合した結果である。今後は、第三者が結果を再現できるか、また中国語の財務報告書、低解像度のスキャン文書、大規模な近似ベクトルインデックスにおいてもHACが再現率を維持できるかが焦点となる。