ホームへ戻る

模型評測

NVIDIAの競技プログラミングモデル、760基のGPUでテスト時計算をスケール――非公式スコアでIOI人間最高得点を上回る

Nemotron-3-Ultra-CCはIOI 2026の問題で535.4/600点を獲得し、公式の人間最高得点498.27点を上回った。鍵は550Bモデルだけではなく、GenCorrectで大量の候補プログラムを繰り返し生成、テスト、修正する手法にある。この実行では最大760基のGB300が使用された。

Strubbl · CC BY-SA 4.0 · Image source
zh-Hant

NVIDIAの研究チームは、競技プログラミングに特化したNemotron-3-CCの学習・推論パイプラインを公開した。研究者らはまず、16種類の競技から集めた2万2,000問を整理し、コンパイル、実行、テストケースに基づく採点が可能な環境を構築した。その後、DeepSeek-V4-Flashを用いて推論トレースを生成した。30Bモデルで、推論時に3Bパラメータを有効化するNano-CCは、120万件のデータを用いて教師ありファインチューニングとGRPOを実施した。一方、550Bモデルで、推論時に55Bパラメータを有効化するUltra-CCは、477,642件のトレースで教師ありファインチューニングを行ったが、プログラミング専用のRLは実施していない。

主なブレークスルーは単発生成ではない。チームが提案したGenCorrectは、候補解を並列生成し、ローカル環境でコンパイルおよびテストした後、エラー、スコア、過去の提出結果を次のラウンドへフィードバックする。最終的に、1問あたり最大50回という正式提出の制限内でプログラムを選定する。IOI 2025におけるNano-CCの単発スコアは、ベースモデルの130点から、ファインチューニング後に280点、RL後に291点へ向上した。さらに、GenCorrectを5ラウンド実行すると468点に達した。この結果は、同実験ではテスト時探索による向上幅がRLを上回ったことを示している。

IOI 2026を対象とした事前評価は、問題の一般公開前に実施された。大会と同じく5時間のセッションを2回設け、インターネット接続を禁止し、提出頻度の制限も遵守した結果、535.4点を記録した。[公式統計](https://stats.ioinformatics.org/olympiads/2026)によると、人間の最高得点は498.27点、金メダルのボーダーは361.12点だった。ただし、[論文](https://arxiv.org/abs/2609.02849)には、モデルが正式な参加者ではなく、実行もIOIの監督下ではなかったことが明記されている。このため、この結果は著者の自己申告による非公式ベンチマークとしてのみ捉えるべきだ。

エンジニアリング上さらに注目すべきなのは、計算資源の格差である。本番相当の実行環境には最大760基のGB300が割り当てられ、固定時間内で高得点を得るために大量の候補が生成された。したがって、これはモデルと1人の人間を同等のリソース条件で比較したものではない。競技向けcheckpointとNeMo Skillsの推論レシピはまだ公開されておらず、完全な学習データも第三者ライセンスによる制約を受ける。今後は、外部チームがスコアを再現できるか、探索予算を削減できるか、そしてGenCorrectを、信頼性の高いテストオラクルを得にくいソフトウェア修復などのタスクへ転用できるかが焦点となる。

出典

  1. Post-Training Language Models for Gold-Medal Performance in Coding Competitions
  2. IOI 2026 Official Statistics
  3. NVIDIA Nemotron-3-Ultra-550B-A55B Model Card