推論系統
HPD-Parsing、文書生成を並列分岐に分解、1Bモデルでピークスループット毎秒4,752 tokenを達成
PaddlePaddleは、1BパラメータのHPD-Parsingを公開した。グローバルレイアウト分岐で複数のブロックデコーダーを協調させ、ページ全体をtoken単位で逐次生成する際のボトルネックを回避する。公式テストでは、既存の比較対象で最速のモデルに対して2.62倍のスループットを示したが、現時点ではカスタムvLLMパッケージに依存しており、ピーク値をエンドツーエンドのPDF処理速度と直接同一視することはできない。