CritICL、小規模モデルの失敗モードをプロンプト・ライブラリ化し、単一生成で複数サンプルのテスト時計算に迫る

オハイオ州立大学とプリンストン大学の研究者らは、小規模モデルの誤りを大規模モデル向けの推論時ガイダンスへ転換する手法「CritICL」を提案した。チームはまず、Qwen2.5 1.5B、3B、7B、および対応する小規模なLlamaモデルに、それぞれ訓練問題を5回ずつ解答させ、誤答を抽出する。続いてGPT-4o-miniが、誤答に対する自然言語の批評と最大5個の失敗タグを生成し、クラスタリングを経てCritBankへ格納する。このため各データには、問題、誤った推論、失敗モード、修正に関する助言が含まれる。

推論時には2つの経路がある。CritICL-staticは、同じモデルファミリーに属する小規模モデルの誤り分布に基づき、頻出する失敗事例を最大5件選び、1つのプロンプトにまとめて組み込む。CritICL-dynamicは、まず対象モデルに現在の問題で生じ得る誤りを予測させ、その後、一致する事例を検索するため、モデル呼び出しが2回必要になる。中核となる仮説は、同一ファミリーの異なるパラメータ規模のモデルが類似した失敗構造を共有しており、小規模モデルが露呈した落とし穴を大規模モデルにあらかじめ注意喚起できるというものだ。

GSM8K、MATH、AMC23、AIME24、AIME25において、Qwen2.5-32Bのstatic方式による総合Pass@1は49.8％で、7回サンプリングの多数決による49.5％をわずかに上回った。72Bでは59.2％となり、5回サンプリングの59.0％を上回った。MATHにおける1問当たりの平均token数は3,768で、テスト時計算ベースラインの4,192〜7,533を下回ったものの、通常の5サンプル・プロンプトの3,620は上回った。これは、主な利得が、あらゆるICLコストを一律に削減することではなく、反復的な出力を、より長く対象を絞った入力で置き換えることから得られていることを示している。さらに大きな制約として、CritBankの構築には小規模モデルによる大量の生成と外部モデルによるアノテーションが必要であり、評価も数学分野と比較的古いモデルに集中している。論文ではコードが用意されていると主張しているが、確認時点でGitHubリポジトリは依然として空だった。