Forking Fast、変化点検出で推論の分岐を再構成——解析用token予算を8分の1に削減可能

モデルが推論の途中でいつ回答を変えるかを調べる際には、Forking Paths Analysisがよく用いられる。これは、1本の基準推論チェーンを固定し、各tokenまたは文のprefixから多数の続きを再サンプリングして、最終的な回答分布を集計する手法だ。結果を真に左右する「分岐点」を特定できる一方、単一の推論チェーンを解析するだけで数百万tokenが生成される場合がある。Forking Fastの出発点は、少数サンプルの曲線に見られる激しい変動の多くが、モデルによる各ステップでの再決定ではなく、有限サンプリングに起因するノイズだという考え方である。

この手法では、まずPELTによる変化点検出で結果分布を複数の区間に分割する。次に、各区間内で近傍位置の回答カウントをGaussian kernelで重み付けし、Dirichlet分布を構成する。交差検証により、変化点ペナルティ、cost function、kernel bandwidthを選択する。これにより、真に鋭い分岐は保持しつつ、平坦な領域では反復サンプリングから得た情報を共有できる。著者らはさらに、独立推定間のtotal variation distanceの傾きが約−0.49であり、多項分布のサンプリングノイズから予想される−1/2に近いことも確認した。

チームはLlama-3-8B-InstructとDeepSeek-R1-Distill-Llama-8Bを用い、tinyMMLUの100問を解析し、合計17.7億tokenを収集した。少数サンプルのデータを平滑化すると、4tokenごとに1回観測する設定では、有効サンプルサイズを約3.3～5倍に増やしたのと同等の効果が得られた。より疎な観測間隔と組み合わせることで、再構成誤差をわずかに増加させるだけで、総token予算を従来の8分の1まで削減できる。ライブラリではこのほか、prefix-cached sampler、CPU再構成ツール、データ、hash list、オフラインのインタラクティブダッシュボードも公開されている。

これはモデルの回答生成を高速化する推論最適化ではなく、メカニズム解析や安全性監査の実験コストを削減する手法である。制約も明確だ。結果は2つの8Bモデル、5種類の選択式出力、長さを制限したcontinuationのみから得られている。また、変化の最も大きな分岐では、平滑化が元のカウントよりわずかに劣る場合さえある。confidence intervalのcoverageは0.48～0.64にとどまったため、著者らはpoint estimateのみの使用を推奨している。今後の重要な課題は、自由回答、長いagent trajectory、frontier-scale modelへ拡張できるかどうかである。