Nemotron 3:在 IOI 和 IMO 2026 中達到金牌級表現
NVIDIA 通過專注於 Nemotron 3 模型家族,實現了在 2026 年國際信息學奧林匹克競賽(IOI)和 2026 年國際數學奧林匹克競賽(IMO)中的金牌級表現。這一成功表明,通過監督微調(SFT)、強化學習(RL)以及迭代推理循環的結合,一個強大的基礎模型可以被轉化為高性能的領域專家。
IOI 和 IMO 2026 的表現結果
基於 Nemotron 的系統在兩項比賽中均取得了超過官方金牌門檻的分數:
| 競賽 | Nemotron 專業化模型 | 成績 |
|---|---|---|
| IOI 2026 | Nemotron-3-Ultra-CC(SFT + GenCorrect) | 535.4/600(金牌門檻:361.12;人類最高分:498.27) |
| IMO 2026 | Nemotron 3 Ultra(通用、SFT 和 RL 檢查點,用於生成-驗證-優化系統) | 30/42(金牌門檻:29) |
對於 IOI 2026,結果來自一次符合人類參賽者限制(時間、互聯網訪問和提交次數限制)的實時前瞻性運行,儘管這是一次非官方、無監督的基準測試。對於 IMO 2026,證明由官方 IMO 評分員評定。
專業化配方
NVIDIA 使用四步可重複的配方,將 Nemotron 基礎模型轉化為高要求領域專家:
- 基礎:從一個強大的 Nemotron 基礎模型開始。
- 數據篩選:篩選特定領域的問題和高品質的推理路徑。
- 後訓練:應用標準方法如 SFT,並在有幫助時使用 RL。
- 推理循環:將專家模型與一個生成、評估和改進候選答案的推理循環配對。
競技編程:IOI 專業化
為了在競技編程中達到金牌級表現,NVIDIA 篩選了 22,000 個問題,並生成了合成推理路徑。開發了兩個專家模型:
- Nemotron-3-Nano-CC:總參數量為 300 億(激活參數 30 億),接受了 SFT 和 RL。在 IOI 2025 的實驗中,其得分從基礎模型的 130 分提升至 RL 後的 291 分,最終通過 GenCorrect 迴圈策略達到 468 分。
- Nemotron-3-Ultra-CC:總參數量為 5500 億(激活參數 550 億),僅接受 SFT。僅需一個 SFT 輪次,便在 IOI、ICPC 和 LiveCodeBench Pro 上超越完全後訓練的 Nano 模型。該模型在 IOI 2026 中取得 535.4/600 的成績。
研究結果表明,不同規模的模型適應需求不同;對於 Nano 模型,SFT 提供了主要提升,而更大的 Ultra 模型則需要更少的後訓練即可達成卓越表現。
奧林匹克數學:IMO 專業化
從 Nemotron 3 Ultra 出發,NVIDIA 使用包含 414,890 個經過質量過濾的示例(覆蓋 15,818 個獨特證明問題)的精選 SFT 語料庫,訓練了兩個專家模型。訓練重點放在證明生成、優化、驗證和元驗證上,以教導模型識別漏洞並判斷證明的完整性。
進一步在模型能力邊界上的 9,597 個證明問題上訓練了一個 RL 模型。最終的 IMO 系統將通用模型、SFT 專家模型和 RL 專家模型整合到一個生成-驗證-優化系統中。該系統完全以自然語言運作,不依賴外部工具、形式化證明器或互聯網訪問,取得了 30/42 的分數。
微調與測試時計算之間的協同效應
金牌級成果並非單靠微調或暴力採樣實現,而是通過模型、數據和推理循環的共同設計實現。更好的專業化為推理系統提供了更高品質的候選答案、更有效的評論者和更佳的優化。
- IOI:GenCorrect 通過多輪反饋放大了微調的收益。
- IMO:使用互補的 SFT 和 RL 檢查點比單一檢查點增加採樣數量更具價值。
開放資源
NVIDIA 已在 Hugging Face 和 GitHub 上釋出多項資源,以支持社區:
- IMO 2026 數據集:包含 SFT 和 RL 檢查點、訓練數據集,以及 Nemotron-IMO-Bench(200 個奧林匹克級問題)。
- NeMo-Skills 倉庫:包含 IMO 推理流程、提示詞和提交的證明。
- 競技編碼:Nemotron-3-Ultra-CC 模型可在 Hugging Face 上獲取,IOI 論文提供了 GenCorrect 方法論和訓練配方。