PaDoc、レイアウト分岐による文書の並列解析で単一A800のスループットを最大118%向上

文書理解モデルは通常、レイアウト座標、テキスト、数式、表を順番に出力する。異なる領域が互いに依存していなくても、後続のコンテンツは先行するtokenの生成完了を待たなければならない。2段階OCRでは、領域を切り出して並列認識できる一方、画像処理が重複し、ページ全体のコンテキストが失われるという代償がある。

PaDocは、予測したレイアウトを生成木として扱う。メイン系列は次の領域の位置を生成し続け、特定のfork tokenに到達すると、その領域のコンテンツ分岐を同時に開始する。すべての分岐はページ全体と祖先のレイアウト接頭辞を共有するが、兄弟分岐を参照することはできない。学習側では、可変長FlashAttentionによるバッチ処理で祖先attentionを実装し、標準的なnext-token objectiveを維持する。vLLMのサービング側では、各分岐を独立したリクエストとして扱い、prefix cachingによってKV cacheを再利用するため、追加のdraft modelや予測headは必要ない。

チームはQwen3-VL-2Bを初期モデルとして使用し、まず約1,100万件の文書サンプルで継続事前学習を行った後、選別した約50万件のデータでSFTを実施した。学習には128基のA800を使用した。OmniDocBench v1.6の1,651ページからなるテストでは、PaDocのレイアウトF1は91.1、end-to-endのOverallは94.24だった。同じ2.1B規模のシリアライズ方式のベースラインと比べても、分岐化による明確な品質低下は見られなかった。

性能テストでは、固定された384ページ、単一のA800、16～256件の同時リクエストを使用した。PaDocは有効ページスループットを67.4～118%向上させ、P95レイテンシを39.2～54.9%短縮した。同時実行数64では毎秒1.722ページに達した。エンジニアリング上で真に注目すべき点は、「出力構造から並列性を引き出す」ことにある。フォーム、チャート、その他の独立したブロックを持つマルチモーダルタスクにも、同じ手法を適用できる可能性がある。

ただし、分岐の独立性は、各領域のコンテンツが画像とレイアウトによって条件付けられた後は相互に依存しない、という前提に基づいている。段組みをまたぐ参照や複数ページにまたがる表は、この前提を崩す可能性がある。また、リポジトリでは著者らの学習データや学習済みcheckpointが公開されておらず、モデル間の速度比較は、モデルサイズ、vLLMのスケジューリング、有効ページの定義に左右される。今後は、異なるGPU、より低い同時実行数、実環境における複数種類の文書が混在するトラフィックでも、この効果を再現できるかを検証する必要がある。