Nemotron 3: IOI 2026 および IMO 2026 における金メダルレベルのパフォーマンス

NVIDIA は、Nemotron 3 モデルファミリーを特化させることで、2026 年の国際情報オリンピック（IOI）および 2026 年の国際数学オリンピック（IMO）の両方で金メダルレベルのパフォーマンスを達成しました。この成功は、強力な基礎モデルが、教師あり微調整（SFT）、強化学習（RL）、反復推論ループの組み合わせによって、高パフォーマンスなドメイン専門家に適応可能であることを示しています。

IOI および IMO 2026 のパフォーマンス結果

Nemotron を基盤とするシステムは、両競技会の公式金メダル基準を上回るスコアを達成しました：

競技会	Nemotron 特化モデル	結果
IOI 2026	Nemotron-3-Ultra-CC (SFT + GenCorrect)	535.4/600（金メダル基準：361.12；トップ人間スコア：498.27）
IMO 2026	Nemotron 3 Ultra（一般、SFT、RL チェックポイントを含む generate-verify-refine システム）	30/42（金メダル基準：29）

IOI 2026 では、人間の参加者と同様の制約（時間、インターネットアクセス、提出制限）の下でライブで実行されたプロスペクティブな実行結果であり、非公式かつ非監督的なベンチマークです。IMO 2026 では、証明は公式 IMO 評価者によって採点されました。

特化のレシピ

NVIDIA は、Nemotron 基盤モデルを要求の厳しいドメイン専門家に適応させるための、4段階の再利用可能なレシピを使用しています：

基礎: 強力な Nemotron 基盤モデルから開始する。
データキュレーション: ドメイン固有の問題と高品質な推論トレースをキュレーションする。
ポストトレーニング: SFT などの標準的手法を適用し、必要に応じて RL を使用する。
推論ループ: 専門モデルと推論ループを組み合わせ、候補解答を生成・評価・改善する。

コンピューティング競技：IOI 特化

コンピューティング競技で金メダルレベルのパフォーマンスを達成するため、NVIDIA は 22,000 問の問題をキュレーションし、合成された推論トレースを生成しました。2 つの専門モデルが開発されました：

Nemotron-3-Nano-CC: 合計 300 億パラメータ（活性 30 億）のモデルで、SFT と RL を受けています。IOI 2025 の実験では、ベースモデルの 130 点から RL 後に 291 点へと向上し、最終的に GenCorrect の反復戦略を使用して 468 点に達しました。
Nemotron-3-Ultra-CC: 合計 5500 億パラメータ（活性 550 億）のモデルで、SFT を受けています。1 エポックの SFT だけで、IOI、ICPC、LiveCodeBench Pro において完全にポストトレーニングされた Nano モデルを上回りました。このモデルは IOI 2026 で 535.4/600 を記録しました。

これらの結果から、スケールによって適応要件が異なることが示唆されています。Nano モデルでは SFT が主な向上要因でしたが、より大きな Ultra モデルは、優れたパフォーマンスに達するためのポストトレーニングが少なくてもよいことがわかりました。

数学オリンピック：IMO 特化

Nemotron 3 Ultra から出発し、15,818 のユニークな証明問題にわたる 414,890 件の品質フィルタリング済み例からなるキュレーションされた SFT コーパスを使用して、2 つの専門モデルを訓練しました。訓練は、証明の生成、精緻化、検証、メタ検証に焦点を当てており、モデルがギャップを識別し、証明の完全性を評価する能力を学ばせました。

さらに、モデルの能力の限界に近い 9,597 問の証明問題に対して RL モデルを訓練しました。最終的な IMO システムは、一般モデル、SFT 専門モデル、RL 専門モデルを generate-verify-refine システムに統合しました。このシステムは外部ツール、形式的証明器、インターネットアクセスなしで自然言語のみで動作し、30/42 点を獲得しました。

微調整とテスト時計算の相乗効果

金メダルレベルの結果は、微調整やブルートフォースサンプリングだけでは達成できず、モデル、データ、推論ループの共同設計によって実現されました。より良い特化は、推論システムに高品質な候補、より効果的な批判者、より良い精緻化を提供します。

IOI: GenCorrect は複数のフィードバックラウンドを通じて微調整の効果を拡大しました。
IMO: 単一のチェックポイントからのサンプルサイズの増加よりも、補完的な SFT と RL チェックポイントの組み合わせがより価値がありました。

オープンリソース

NVIDIA は、コミュニティを支援するために Hugging Face および GitHub にいくつかのリソースを公開しています：

IMO 2026 コレクション: SFT および RL チェックポイント、トレーニングデータセット、Nemotron-IMO-Bench（200 問のオリンピックレベルの問題）を含みます。
NeMo-Skills リポジトリ: IMO 推論パイプライン、プロンプト、提出された証明が含まれます。
コンピューティングコーディング: Nemotron-3-Ultra-CC モデルは Hugging Face で利用可能であり、IOI 論文には GenCorrect の手法とトレーニングレシピが記載されています。