Nemotron 3: IOI 및 IMO 2026에서 금메달 수준 성능 달성

NVIDIA는 Nemotron 3 모델 패밀리의 전문화를 통해 2026년 국제 정보올림피아드(IOI)와 2026년 국제 수학올림피아드(IMO)에서 금메달 수준의 성능을 달성했다. 이 성과는 강력한 기초 모델이 감독 학습(SFT), 강화 학습(RL), 반복 추론 루프의 조합을 통해 고성능 도메인 전문가로 전환될 수 있음을 보여준다.

IOI 및 IMO 2026 성능 결과

Nemotron 기반 시스템은 두 대회 모두 공식 금메달 기준을 초과하는 점수를 기록했다:

대회 Nemotron 전문화 결과
IOI 2026 Nemotron-3-Ultra-CC (SFT + GenCorrect) 535.4/600 (금메달 기준: 361.12; 최고 인간 점수: 498.27)
IMO 2026 Nemotron 3 Ultra (일반, SFT, RL 체크포인트를 포함한 generate-verify-refine 시스템) 30/42 (금메달 기준: 29)

IOI 2026의 결과는 인간 참가자들과 동일한 제약 조건(시간, 인터넷 접근, 제출 제한) 하에서 실시간으로 진행된 비공식적인 비감독 벤치마크였다. IMO 2026의 증명은 공식 IMO 채점자에 의해 평가되었다.

전문화 레시피

NVIDIA는 Nemotron 기초 모델을 엄격한 도메인 전문가로 전환하기 위해 네 가지 재사용 가능한 레시피를 활용한다:

  1. 기초: 강력한 Nemotron 기초 모델로 시작한다.
  2. 데이터 정제: 도메인 특화 문제와 고품질 추론 트레이스를 정제한다.
  3. 후학습: SFT와 유용한 경우 RL과 같은 표준 방법을 적용한다.
  4. 추론 루프: 전문가 모델과 추론 루프를 결합하여 후보 답변을 생성하고 평가하며 개선한다.

경쟁 프로그래밍: IOI 전문화

경쟁 프로그래밍에서 금메달 수준 성능을 달성하기 위해 NVIDIA는 22,000개의 문제를 정제하고 합성된 추론 트레이스를 생성했다. 두 개의 전문가 모델이 개발되었다:

  • Nemotron-3-Nano-CC: 총 300억 파라미터(활성 30억)를 가진 모델로 SFT와 RL을 모두 적용했다. IOI 2025 실험에서 기초 모델의 130점에서 RL 이후 291점으로 향상되었으며, GenCorrect 반복 전략을 사용해 결국 468점에 도달했다.
  • Nemotron-3-Ultra-CC: 총 5500억 파라미터(활성 550억)를 가진 모델로 SFT만 적용했다. 단일 SFT 에포크만으로 IOI, ICPC, LiveCodeBench Pro에서 완전히 후학습된 Nano 모델을 초월했다. 이 모델은 IOI 2026에서 535.4/600점을 기록했다.

결과는 규모에 따라 적응 요구사항이 다름을 시사한다. Nano 모델의 경우 SFT가 대부분의 성과를 제공했지만, 더 큰 Ultra 모델은 우수한 성능에 도달하기 위해 덜 많은 후학습이 필요했다.

올림피아드 수학: IMO 전문화

Nemotron 3 Ultra에서 시작하여 NVIDIA는 15,818개의 고유한 증명 문제를 포함한 414,890개의 품질 필터링된 예제로 구성된 SFT 코퍼스를 사용해 두 개의 전문가 모델을 훈련시켰다. 훈련은 증명 생성, 개선, 검증, 메타-검증에 중점을 두어 모델이 증명의 결함을 식별하고 완전성을 판단하도록 가르쳤다.

또한 모델의 능력 한계에서 9,597개의 증명 문제를 기반으로 RL 모델을 추가로 훈련시켰다. 최종 IMO 시스템은 일반 모델, SFT 전문가 모델, RL 전문가 모델을 generate-verify-refine 시스템에 통합했다. 이 시스템은 외부 도구, 형식적 증명기, 인터넷 접근 없이 자연어만을 사용하여 30/42점의 성과를 달성했다.

미세조정과 테스트 시 컴퓨팅의 상호작용

금메달 수준의 성과는 단순한 미세조정이나 브루트포스 샘플링만으로 달성되지 않았으며, 모델, 데이터, 추론 루프의 공동 설계를 통해 가능했다. 더 나은 전문화는 추론 시스템에 더 고품질의 후보, 더 효과적인 비평가, 더 나은 개선을 제공한다.

  • IOI: GenCorrect는 여러 피드백 라운드를 통해 미세조정의 성과를 증폭시켰다.
  • IMO: 단일 체크포인트의 샘플 크기 증가보다 보완적인 SFT와 RL 체크포인트를 사용하는 것이 더 유용했다.

오픈 리소스

NVIDIA는 커뮤니티를 지원하기 위해 Hugging Face와 GitHub에 여러 리소스를 공개했다:

  • IMO 2026 컬렉션: SFT 및 RL 체크포인트, 훈련 데이터셋, Nemotron-IMO-Bench(200개의 올림피아드 수준 문제) 포함.
  • NeMo-Skills 리포지토리: IMO 추론 파이프라인, 프롬프트, 제출된 증명 포함.
  • 경쟁 프로그래밍: Nemotron-3-Ultra-CC 모델은 Hugging Face에서 사용 가능하며, IOI 논문은 GenCorrect 방법론과 훈련 레시피를 제공한다.

Sources