Inkling 2 Small 릴리스 노트

Thinking Machines는 고성능 에이전트 코딩, 비전 및 지식 작업을 위해 설계된 새로운 MoE(Mixture-of-Experts) 모델인 Inkling 2 Small을 발표했습니다. 총 594B 파라미터와 17B 활성 파라미터를 갖춘 이 모델은 이전 모델 대비 상당한 성능 향상을 보여주며, Artificial Analysis Intelligence Index에서 31점을 기록했습니다.

기술 아키텍처 및 학습

Inkling 2 Small은 NVIDIA Blackwell 아키텍처와 함께 도입된 4비트 부동 소수점 형식인 NVFP4로 완전히 학습된 해당 규모 최초의 모델입니다. 이러한 정밀도 선택을 통해 빠른 학습 주기가 가능해졌으며, 주요 사전 학습 단계(H1)는 NVIDIA GB300 NVL72 랙에서 단 68시간 만에 8.4조 개의 토큰을 처리했습니다.

학습 과정은 4단계 접근 방식을 활용했으며, 9일 동안 1,700만 개의 롤아웃을 포함하는 대규모 공동 강화 학습(RL) 실행으로 마무리되었습니다. 팀은 비동기 RL 인프라의 정체 문제를 처리하기 위해 "StableReinforce" 목표를 사용했으며, 이를 통해 모델이 컴퓨팅 자원에 따라 로그 선형적으로 성능을 확장할 수 있게 했습니다.

에이전트 및 비전 기능

Inkling 2 Small은 장기 자율 작업에 최적화되어 있습니다. 이 모델은 Perception Encoder를 기반으로 하는 292M 파라미터 비전 인코더를 통합하여 OCR 및 인포그래픽 해석부터 복잡한 시각적 추론에 이르는 작업에 대한 이미지 입력을 처리할 수 있습니다.

에이전트 코딩 분야에서 이 모델은 단위 테스트 결과뿐만 아니라 문제 해결 과정을 평가하는 에이전트 RL 채점기를 사용하여 수십만 개의 장기 작업으로 학습되었습니다. 이 모델은 다음과 같은 분야에서 강력한 성능을 보여줍니다:

• 자동 연구(Autoresearch): 시계열 예측을 위해 다른 모델(예: Qwen3.5-4B)을 자율적으로 학습시키는 능력 입증.
• 시각적 추론: 시각적 입력만 사용하여 블라인드 와인 테이스팅 테스트에서 연구원들을 능가.
• 설계 및 시뮬레이션: Three.js를 사용하여 대화형 3D 환경 및 도시 시뮬레이터를 절차적으로 생성 가능.

안전 및 정렬

Thinking Machines는 심층 방어 안전 전략을 구현했습니다. 여기에는 다음이 포함됩니다:

• 동기식 모니터링: 실행 전 작업별 정책에 따라 도구 호출을 검사하는 시스템.
• 비동기식 모니터링: 완료된 롤아웃의 오작동 여부를 검토하는 LLM 판사.
• 정렬 학습: 행동 사양을 내면화하기 위한 온-정책 자기 증류(on-policy self-distillation) 사용 및 학습 중 오작동 흔적 필터링.

이 모델은 이전 버전에 비해 적대적 프롬프트에 대한 향상된 저항력을 보여주지만, 특정 정렬 평가에서는 GPT-6.1 Sol과 같은 폐쇄형 가중치 모델에 비해 여전히 뒤처진다고 회사는 언급했습니다. 전체 가중치는 외부 안전성 테스트를 거친 후 Apache 2.0 라이선스 하에 릴리스될 예정입니다.

가용성 및 커뮤니티 반응

Inkling 2 Small은 현재 Tinker 플랫폼에서 추론 및 미세 조정이 가능합니다. Hacker News의 커뮤니티 토론에서는 개발 팀의 인상적인 속도와 NVFP4 학습 레시피의 기술적 중요성이 강조되었습니다. 관찰자들은 이 모델이 다른 최첨단 오픈 가중치 모델에 대한 경쟁력 있는 국내 대안 역할을 한다고 언급했지만, 일부 사용자는 모델의 크기와 명명 선택에 대해 우려를 표하기도 했습니다.

"가장 중요한 점은 학습이 완전히 nvfp4로 이루어졌다는 것입니다. 이는 해당 정밀도로 학습된 모델 중 단연코 최고이며, 왜 그렇게 빨리 수행할 수 있었는지 설명해 줍니다." — @itkovian_

"훌륭한 국내 오픈 가중치 모델입니다. 수억 달러 없이도 9일 만에 작은 팀이 DeepSeek 4.1을 능가하는 모델과 이를 튜닝할 수 있는 플랫폼을 만들어냈습니다." — @epsteingpt