Kimi K3 출시: 에이전트 코딩을 위한 2.8조 파라미터 모델

Kimi K3 출시: 에이전트 코딩을 위한 2.8조 파라미터 모델

Kimi K3는 에이전트 작업을 위한 최첨단 지능을 제공

Kimi K3는 Moonshot AI가 현재까지 만든 가장 강력한 모델로, 에이전트 코딩 및 복합 지식 작업을 위해 특별히 설계되었습니다. 내부 및 제3자 평가에서 K3는 현재 업계 선두 모델에 버금가는 성능을 보여주며, 전체 지능 면에서 Claude Fable 5와 GPT‑5.6 Sol에 이어 두 번째로 평가됩니다.

주요 벤치마크 성과는 다음과 같습니다:

  • GDPval-AA v2: Kimi K3는 1687점을 받아 Claude Opus 4.8 Max(1600)보다 앞서며 Claude Fable 5 Max와 GPT‑5.6 Sol Max에 바로 뒤처집니다.
  • AA‑Briefcase: K3는 1527점을 받아 전체 2위에 올랐으며, GPT‑5.6 Sol Max(1495)를 앞서고 Claude Fable 5 Max에만 뒤처집니다. 이 벤치마크는 장기 지식 작업에서의 에이전트 역량을 평가합니다.

대규모 규모와 아키텍처 효율성

Kimi K3는 2.8조 개의 총 파라미터를 갖춘 가장 큰 오픈 모델 중 하나입니다. 이러한 규모를 관리하면서 추론 효율성을 유지하기 위해 Moonshot AI는 Stable LatentMoE(전문가 혼합) 프레임워크를 활용했습니다.

이 아키텍처는 희소성을 크게 높여 토큰당 896명 중 16명의 전문가만 활성화합니다. 이러한 구조적 접근은 이전 모델인 Kimi K2에 비해 약 2.5배의 스케일링 효율성을 제공하여, 모델이 연산을 능력으로 전환하는 효율을 크게 향상시킵니다. 총 파라미터 수와 전문가 배분을 기준으로 추론 시 약 500억 개의 활성 파라미터를 보유한 것으로 추정됩니다.

자율 칩 설계 및 컴파일러 분야의 돌파구

Kimi K3는 두 가지 고도의 기술적 개념 증명 프로젝트를 통해 장기 에이전트 역량을 입증했습니다:

  1. 자율 칩 설계: 48시간 자율 실행 동안 K3는 자체 아키텍처를 기반으로 나노 모델을 지원하는 칩을 설계했습니다. 오픈소스 EDA 도구와 Nangate 45nm 라이브러리를 사용해 4 mm² 크기의 설계를 만들었으며, 100 MHz에서 타이밍을 맞추고 시뮬레이션에서 초당 8,700 토큰 이상의 디코드 처리량을 유지했습니다.
  2. GPU 컴파일러 개발: 모델은 처음부터 전체 GPU 컴파일러를 코딩했으며, 일부 GPU 커널은 특정 상황에서 Triton보다 뛰어난 성능을 보였습니다.

기술 사양 및 API 제한 사항

Kimi K3는 100만 토큰 컨텍스트 윈도우와 네이티브 비전 기능을 지원합니다. 그러나 현재 API 구현에는 몇 가지 경직된 제한이 있습니다:

  • 추론 노력: 현재는 "max" 추론 노력만 지원되며, 사고 모드는 기본적으로 항상 활성화됩니다.
  • 고정 파라미터: 온도(1.0), top_p(0.95), 패널티(존재 및 빈도 = 0)는 고정되어 있어 요청 시 수정할 수 없습니다.
  • 비전 입력: 공개 이미지 URL은 지원되지 않으며, 사용자는 base64 인코딩이나 특정 파일 ID를 사용해야 합니다.
  • 웹 검색: 현재 업데이트 중이며, 프로덕션 워크플로에 권장되지 않습니다.

가격 및 시장 포지셔닝

Kimi K3는 Anthropic Sonnet 시리즈와 직접 경쟁하도록 포지셔닝되었습니다. 가격은 입력 100만 토큰당 $3, 출력 100만 토큰당 $15이며, 캐시된 입력은 100만 토큰당 $0.3입니다.

원가 자체는 최첨단 모델과 경쟁력이 있지만, 커뮤니티 의견에 따르면 실제 비용 효율성은 추론 효율에 달려 있습니다. 일부 사용자는 K3가 "느리다"고 지적하며, 단일 프롬프트에 많은 추론 토큰을 소비해 GPT‑5.6 Sol과 같은 더 효율적인 모델에 비해 작업당 실질 비용이 상승할 수 있다고 언급했습니다.

커뮤니티 인사이트 및 비판

Hacker News 사용자들은 모델의 실제 유용성에 대해 엇갈린 초기 경험을 공유했습니다:

"첫 시도에서 Kimi K3는 Fable 5가 여러 차례 찾지 못한 버그의 원인을 바로 찾아냈습니다."

"웹 인터페이스에서 단일 프롬프트만 시도했는데도 아직 추론을 마치지 못했습니다. 생각을 너무 많이 하고 같은 내용을 반복해서 말합니다."

또한 Moonshot AI의 서비스 약관에 따라 별도의 기업 계약이 없을 경우 고객 콘텐츠가 모델 개선에 사용될 수 있다는 점에서 데이터 프라이버시에 대한 우려도 제기되었습니다.

요약: Moonshot AI는 에이전트 지식 작업 및 코딩을 위해 설계된 2.8조 파라미터 오픈‑웨이트 모델 Kimi K3를 출시했으며, 최첨단 지능 벤치마크에서 Claude Fable 5와 GPT‑5.6 Sol에 바로 뒤쳐지는 성능을 보입니다.

제목: Kimi K3 출시: 에이전트 코딩을 위한 2.8조 파라미터 모델

Sources