NVIDIA、IMO金メダル級推論のレシピを完成：各問題でまず384件の証明を生成し、多段階の審査で選別

NVIDIAはこの2日間でNemotron Labs IMO 2026のリソース一式を更新し、先行論文で扱った数学特化型のSFTおよびRL checkpoint、2種類の訓練データセット、200問からなるNemotron‑IMO‑Benchを追加するとともに、実際に提出した証明とエンドツーエンドの推論レシピを公開した。このシステムは自然言語で2026年国際数学オリンピックの全6問を解き、30／42点で金メダルの基準に到達した。形式証明器、検索エンジン、外部の数学ツールは一切使用していない。重要なのは得点だけではない。外部の研究者が「金メダル級」の結果に、どれほどの候補生成、モデル間相互評価、選択計算が使われたのかを検証できるようになった点にある。

各問題の第1ラウンドでは、汎用、SFT、RLの3つのNemotron 3 Ultra checkpointに、それぞれ8種類のプロンプトを適用し、各プロンプトから16回サンプリングする。これにより、合計384件の証明を生成する。重複を除いた後、各証明をSFTモデルとRLモデルにそれぞれ8回ずつ判定させ、計16回の判定すべてに合格したものだけを受理する。第2～第8ラウンドでは、証明プールから最良の16件を選び、最大8件の審査コメントを加えたうえで、3つのモデルがそれぞれ4回ずつ書き直す。このため、各ラウンドで新たに192件の候補が生成される。最後に、3つのcheckpointがIMOの0～7点の採点基準に従って最終候補をそれぞれ16回評価する。つまり、各候補は計48回の採点を受けた後、提出版が選ばれる。

公開されたプログラムは任意のOpenAI互換エンドポイントに接続でき、各リクエストを再開可能なJSONLとして記録する。また、プロンプト、モデル、入力、設定のハッシュにより、処理再開時の構成ドリフトを防止する。完全な出力には、乱数シード、元となった証明、コメント、token使用量も保持される。これによりプロセスレベルの監査可能性は高まるが、低コストで再現できるという意味ではない。3つのモデルはいずれも約561Bパラメータで、completionは最大512K tokenに設定可能であり、多段階で生成される候補数は一般的なbest‑of‑N評価をはるかに上回る。他のIMO成績と比較する際、研究者は基盤モデル、総推論token数、審査モデル、選択戦略を分けて報告すべきだ。次の段階では、独立したチームが公開済みの6問と未公開の新問題で再実行し、審査の自己整合性が安定した証明正答率につながるかを確認する必要がある。