AI 代理與評測
Stellar Colosseum、依存関係グラフと反証ループで長期的な数学エージェントを管理
Google ResearchとCMUのチームは、戦略探索、証明の分解、局所的な修正、グローバル検証をマルチエージェント・ワークフローとして構成した。モデル横断の選択によりTCS-Benchで71%を達成したが、主要なharnessはまだ完全には公開されておらず、自動評価と多大な推論予算が比較可能性を制限している。

Stellar Colosseumは、長期的な研究エージェントに最もよく見られる失敗、すなわちモデルが序盤で誤った戦略を選んだ後も、その誤った前提に基づいて数十ページもの内容を書き足し続ける問題の解決を目指している。システムはまず複数のエージェントに「戦略カード」を生成させ、中心となる仕組み、必要な補題、根拠、ボトルネック、未解決の義務を記録する。その後、readiness gateが各方針の成熟度を判定する。通過した戦略だけが、依存関係を表すエッジを備えた証明セクションのグラフへ変換される。相互に依存しないセクションは並列処理でき、検証器が問題を発見した場合も、影響を受けるセクションにだけ批判を差し戻せばよい。
各段階では複数の候補を生成し、ほかのエージェントに反例、循環論法、仮定の欠落、定理の誤用を能動的に探させる。候補と批判は単純な多数決ではなく、重複ランダムサンプリング木を通じて階層的に統合される。論文に記載されたTCS-Benchの構成では、幅を32、16、8、5、1の順に絞り込み、各集約ノードが5件の材料を取り込む。共有ディレクトリには既知の補題、失敗した経路、文献、計算上の観察結果が保存され、後続ラウンドで同じ失敗を繰り返さずに済む。同じアーキテクチャをプログラミング問題へ移植する場合、末端のセクションはC++実装に置き換えられ、コンパイル、公開サンプル、ストレステストの結果が修正ループへフィードバックされる。
研究レベルの定理問題300問で構成されるTCS-Benchでは、Colosseumを単独で使用した場合、Gemini 3.1 ProとGemini 3.7 Flashがそれぞれ54%と55%を記録した。さらにチームは、Flashによる8回の批評を用いて、どちらのモデルの証明を採用すべきかを判定し、71%、すなわち213問を達成した。理想化されたbest-of-twoの上限は77.3%であり、選択器が依然として正しい候補を棄却していることを示している。別のCodeforces 222問の実験では、実行フィードバックを追加すると218問を解決し、フィードバックなしの比較群では213問だった。
この研究の重要性は、推論時計算を「回答を何件か多くサンプリングする」段階から、状態、依存関係、ロールバック範囲を備えたエンジニアリング・プロセスへ引き上げた点にある。ただし、71%という結果は、2つのモデル、8回の批評、参照情報を利用した評価を組み合わせたものであり、単一エージェントの正解率として直接解釈することはできない。Codeforcesの比較でも、修正予算が同時に変更されている。論文は証明成果物の一部を公開しているものの、そのまま再実行できる完全なColosseum harness、コストの内訳、問題ごとのトレースは公開していない。今後は、コンポーネント・アブレーション、形式検証、固定されたtoken/時間予算の下でも単純なbest-of-Nを上回れるかどうかに注目すべきだ。