Kimi K2.7-Code 릴리스 노트: 토큰 효율성이 향상된 오픈 웨이트 코딩 모델

Moonshot AI는 복잡한 소프트웨어 엔지니어링 워크플로우에서 엔드 투 엔드 작업 완료를 개선하도록 설계된 코딩 중심 에이전틱 모델인 Kimi K2.7-Code를 출시했습니다. Kimi K2.6을 기반으로 구축된 이 새로운 모델은 "thinking tokens"의 사용량을 약 30% 줄임으로써 토큰 효율성을 크게 향상시켰습니다.

모델 아키텍처 및 기술 사양

Kimi K2.7-Code는 높은 용량과 추론 효율성의 균형을 맞추기 위해 Mixture-of-Experts (MoE) 아키텍처를 활용합니다. 총 파라미터 수는 1조 개에 달하지만, 토큰당 320억 개의 파라미터만 활성화됩니다.

사양 상세 내용
Architecture Mixture-of-Experts (MoE)
Total Parameters 1T
Activated Parameters 32B
Number of Layers 61 (1개의 dense layer 포함)
Experts 총 384개 (토큰당 8개 선택, 1개 공유)
Context Length 256K
Attention Mechanism MLA
Activation Function SwiGLU
Vision Encoder MoonViT (400M parameters)
Vocabulary Size 160K

성능 벤치마크

Kimi K2.7-Code는 이전 모델인 K2.6에 비해 눈에 띄는 개선을 보여주며, 특히 에이전틱 및 코딩 작업에서 GPT-5.5 및 Claude Opus 4.8과 같은 독점 모델과의 격차를 좁히고 있습니다.

코딩 및 에이전틱 결과

벤치마크 Kimi K2.6 Kimi K2.7 Code GPT-5.5 Claude Opus 4.8
Kimi Code Bench v2 50.9 62.0 69.0 67.4
Program Bench 48.3 53.6 69.1 63.8
MLS Bench Lite 26.7 35.1 35.5 42.8
Kimi Claw 24/7 Bench 42.9 46.9 52.8 50.4
MCP Atlas 69.4 76.0 79.4 81.3
MCP Mark Verified 72.8 81.1 92.9 76.4

주요 기능 및 역량

네이티브 INT4 양자화

Kimi K2.7-Code는 Kimi-K2-Thinking에서 사용된 것과 동일한 네이티브 INT4 양자화 방식을 구현하여, 정밀도 손실 없이 더 효율적인 배포가 가능합니다.

멀티모달 입력

이 모델은 이미지 및 비디오 입력을 지원하여 코드와 함께 시각적 컨텍스트를 처리할 수 있습니다. 비디오 콘텐츠와의 채팅은 현재 공식 API를 통해서만 사용할 수 있는 실험적 기능이지만, 이미지 지원은 완전히 통합되었습니다.

강제 사고(Forced Thinking) 및 사고 유지(Preserve Thinking)

Kimi K2.7-Code는 필수 "Thinking" 모드로 작동합니다. preserve_thinking을 True로 강제하여, 모델이 다중 턴 상호작용 전반에 걸쳐 전체 추론 과정을 유지하도록 합니다. 이는 과거의 추론이 작업 완료에 중요한 복잡한 코딩 에이전트 시나리오에서 성능을 향상을 위해 특별히 설계되었습니다.

인터리브드 사고(Interleaved Thinking) 및 도구 사용

이 모델은 인터리브드 사고와 다단계 도구 호출을 지원하여, 에이전트가 최종 답변을 제공하기 전에 문제를 추론하고 일련의 도구들을 순차적으로 실행할 수 있도록 합니다.

배포 및 사용

Kimi K2.7-Code는 Modified MIT License로 출시되었습니다. 다음 추론 엔진을 사용하여 배포하는 것을 권장합니다:

  • vLLM
  • SGLang | KTransformers

기술적 요구 사항:

  • transformers 버전: >=4.57.1, <5.0.0
  • 권장 temperature: 1.0 (Thinking 모드용)
  • 권장 top_p: 0.95

커뮤니티 인사이트 및 토론

커뮤니티 피드백은 "오픈 웨이트" 모델이 많은 워크플로우에서 최위급 독점 모델과 고품질 오픈 모델 간의 성능 격차가 미미해지는 성능 임계값에 도달하고 있다는 추growing trend를 강조합니다.

비용 및 성능에 대하여

사용자들은 Claude Opus와 같은 독점 모델이 훨씬 더 비싼데도 불구하고 성능 격차는 좁아지고 있다고 언급했습니다. 한 사용자는 다음과 같이 관찰했습니다:

"I think there is some threshold after which 'best' model doesn't matter... at some point, it will just do the thing you want it to do, and then the race to the bottom will start."

에이전틱 행동에 대하여

일부 사용자들은 K2.7-Code가 K2.6에 비해 지시사항 준수 및 에이전틱 행동이 개선되었음을 보고했습니다. 특히 사용자 정의 도구 호출 형식을 다음과 같이 언급했습니다:

"Finally follows custom tool call format (k2.6 couldn't). It's a good indicator of instructions following and agentic behaviour."

라이선스에 대하여

Modified MIT license는 커뮤니티 구성원들에 의해 합리적인 요청으로 묘사되었습니다. 이는 본질적으로 제품에 모델을 사용할 경우 모델의 출처를 명시하도록 요구하는 이전 BSD license와 유사한 조항을 추가한 것입니다.

Sources