模型訓練與數學推理
Nemotron、3モデルによる生成・検証・修正プロセスでIMO金メダルを獲得、ただし競技全体で23.1億tokenを消費
NVIDIAは、2つのNemotron 3 Ultra数学特化モデルのweight、学習データ、中断後に再開可能な自然言語証明pipelineを公開した。公式スコアは42点満点中30点だった。一方、この結果はモデル検証器に共通する盲点も浮き彫りにした。内部評価では2問を過大評価しており、高いprecisionは大量のfalse rejectionと計算コストとの引き換えで達成されていた。
NVIDIAの研究チームは、IMO 2026システムのweight、データ、推論recipeを公開した。システムは総parameter数550B、1回あたり約55Bを有効化するNemotron 3 Ultraを基盤とし、SFTとRLによる2つの数学特化モデルを追加学習している。SFTの最大sequence lengthは425,984 tokenに達する。学習corpusは15,879問の高難度証明問題を起点とし、DeepSeek V4 Proを用いて初稿、修正trajectory、検証、meta-verificationのデータを生成した。
競技用pipelineは、単発の回答生成ではない。第1段階では、3つのcheckpointと8種類のpromptを組み合わせ、384件の証明候補を生成する。その後、RLモデルとSFTモデルがそれぞれ8回ずつ、reference answerなしで評価し、16票すべてが正解と判定した場合にのみ早期採用する。不合格となった候補については、証明poolから高得点のものを選び、critiqueとともに3モデルへ戻して修正させる。この処理を最大8round実行する。最終段階では、3モデルが各finalistをそれぞれ16回、IMO方式で採点し、合計48回の判定の平均値に基づいて提出稿を選ぶ。公開されたNeMo-SkillsのrecipeはOpenAI互換endpointへ接続でき、各recordをJSONLとして保存するため、中断後の再開にも対応する。
形式証明器もインターネットも使わず、自然言語のみで構成されたこのシステムは、公式採点で42点満点中30点を獲得し、金メダル基準の29点を上回った。最終提出稿の特定には約707M tokenと1,464 GB200 GPU-hoursを消費した一方、競技時間内に開始されたworkload全体では23.1億token、約4,800 GPU-hoursに達した。この結果は、性能がpost-training、checkpointの多様性、極めて大規模なtest-time computeの組み合わせによるものであり、単一モデルによるone-shot生成能力とはみなせないことを示している。
検証は依然として中核的なリスクだ。内部評価と事後のモデル評価はいずれも約32点と見積もったが、第3問と第6問の欠陥を共通して見逃した。300件の証明を対象としたauditでは、16票全会一致ルールによってfalse acceptance rateを1.1%まで抑えたものの、false rejection rateは81.3%に達した。今後は、第三者が固定されたtoken／GPU budgetの下で結果を再現できるか、また形式検証器や異種モデルによるjudgeを導入することで、相関した誤りを減らせるかが注目される。