DocMemo、ベイズ的ページ記憶で長文書を再検索し、MMLongBenchで正解率71.3%を達成

長大なPDFを対象とする質問応答では、多くの場合、推論を始める前に数ページを一度だけ選定する。最初の検索で表や複数ページにまたがる手掛かりを取りこぼすと、後段のモデルがどれほど高い推論能力を備えていても修正できない。DocMemoは検索を最大3ラウンドのステートフルな探索へ変更し、メモリを3層に分割する。Document Schema Memoryは、章構成やページ要約などの文書構造を保持する。Page Belief Memoryは、各ページが現在の質問に関連する確率を管理する。Question Episodic Memoryは、発見済みの証拠、未解決の手掛かり、クエリ書き換えの履歴を記録する。

各ラウンドでは、まず視覚埋め込みによって候補ページを取得し、続いてThompson samplingを用いて、確信度の高いページと、まだ十分に調査されていないページとの間でバランスを取る。推論モデルによる証拠の評価は、ベイズ更新を通じてページの信念分布へ書き戻される。前後2ページにも減衰係数に従って関連度が伝播する。情報量の多い表に遭遇した場合、システムはページ全体のサムネイルだけをモデルに渡すのではなく、局所的な視覚領域を追加で切り出せる。

1,082問を収録し、文書の長さが最大112ページに及ぶMMLongBench-Docにおいて、DocMemoは71.3%の正解率を達成し、DocLensの67.6%を上回った。表に関する問題では73.3%、回答不能問題では78.8%だった。同一のQwen3.5-9B、ColQwen2.5、ページ予算、最大3ラウンドという条件に揃えた場合でも、DocMemoは71.3%を記録し、SimpleDocの69.3%を上回った。すべてのメモリを削除するとスコアは68.47%へ低下し、ベイズ更新を削除した場合は68.80%となった。Thompson samplingを、事後平均が最も高いページだけを選ぶ貪欲法に置き換えると、71.28%から68.62%へ低下した。

ただし、正解判定は主にGPT-4.1を用いた二値評価に依存しており、回答スタイルの違いが結果に混入している可能性がある。また、複数のベースライン数値は、それぞれの論文またはリーダーボードから引用されている。公開コードは現時点でコミットが2件しかなく、ページ埋め込み、要約、vLLMサービス、質問応答パイプラインは提供されているものの、データや完全な再現用成果物は含まれていない。実運用に採用する前に、オフライン要約のコスト、長文書の更新に伴うキャッシュ無効化の問題、さらにページ信念を異なるレイアウトや言語にまたがって安定的にキャリブレーションできるかを検証する必要がある。