Qwen3-Coder-Next 릴리스: 고효율 에이전트 코딩 모델

Qwen3-Coder-Next는 코딩 에이전트와 로컬 개발에 최적화된 오픈-웨이트 언어 모델입니다. 파라미터 크기만을 늘리는 것이 아니라 에이전트 학습 신호를 확장함으로써, 이 모델은 소프트웨어 엔지니어링 벤치마크에서 높은 수준의 성능을 달성하면서도 추론 비용을 크게 낮추었습니다.

아키텍처 및 학습 방법론

Qwen3-Coder-Next는 Qwen3-Next-80B-A3B-Base 모델을 기반으로 하며, 하이브리드 어텐션과 Mixture-of-Experts (MoE)를 결합한 새로운 아키텍처를 활용합니다. 이 모델은 작은 활성 파라미터 규모(3B 활성 파라미터)를 특징으로 하여, 추론 능력을 희생하지 않으면서 효율적인 배포가 가능합니다.

에이전트 기능을 개발하기 위해 Qwen 팀은 검증 가능한 코딩 작업과 실행 가능한 환경을 통해 학습 신호를 확장하는 데 집중했습니다. 학습 파이프라인은 네 가지 주요 단계로 구성됩니다:

  1. Continued Pretraining: 코드 및 에이전트 중심 데이터를 중점으로 합니다.
  2. Supervised Fine-Tuning (SFT): 고품질 에이전트 궤적을 사용하여 모델이 복잡한 작업을 수행하는 방법을 학습시킵니다.
  3. Domain-Specialized Expert Training: 소프트웨어 엔지니어링, 품질 보증(QA), 웹/UX 개발 등 특정 분야를 목표로 합니다.
  4. Expert Distillation: 전문 지식을 하나의 배포 준비 모델로 통합합니다.

이 접근 방식은 장기 추론, 도구 사용 및 실행 실패 복구 능력을 우선시하며, 이는 자율 코딩 에이전트에 필수적입니다.

성능 벤치마크

Qwen3-Coder-Next는 에이전트 중심 평가에서 강력한 역량을 보여주며, 특히 장기 추론이 필요한 다중 턴 작업에서 두드러집니다.

소프트웨어 엔지니어링 벤치마크

  • SWE-Bench Verified: 모델은 SWE-Agent 스캐폴드를 사용할 때 70% 이상의 성공률을 달성합니다.
  • SWE-Bench Pro: 이보다 더 어려운 벤치마크에서도 모델은 경쟁력을 유지하며, 에이전트 턴 수가 증가함에 따라 성능이 향상되어 장기 추론 능력이 강함을 보여줍니다.
  • Multilingual Support: 모델은 다양한 다국어 코딩 환경에서도 경쟁력 있는 성능을 유지합니다.

효율성 및 파라미터 트레이드오프

Qwen3-Coder-Next는 비용 효율적인 에이전트 배포를 위한 새로운 파레토 경계를 설정합니다. 3B 활성 파라미터만으로도 SWE-Bench Pro 성능을 제공하며, 이는 10–20Ñ 더 많은 활성 파라미터를 가진 오픈소스 모델과 비교할 수 있습니다.

실용적인 적용 및 통합

모델의 속도와 작은 크기로 인해 다양한 하위 에이전트 프레임워크 및 애플리케이션에 통합하기에 적합합니다, 포함:

  • IDE and Agent Frameworks: Cline, Claude Code, OpenClaw와 같은 도구와의 통합.
  • Web Development: 채팅 인터페이스, 인터랙티브 게임, ASCII 아트 그리기 도구 등을 만드는 기능.
  • CLI and Browser Automation: 데스크톱 정리, 웹 게임 구현, Amazon에서 제품 검색이나 웹사이트 테스트와 같은 작업을 위한 브라우저 기반 에이전트 운영 능력.
  • Custom Demos: Gomoku 게임 및 다른 Qwen 모델(예: Qwen3-TTS)을 위한 Gradio 데모 구축 지원.

향후 개발

Qwen 팀은 자율 도구 사용, 고도로 복잡한 문제 처리, 복잡한 작업 관리의 추가 개선을 향후 버전의 주요 목표로 설정했습니다. 향후 작업은 추론 및 의사결정 능력 향상과 실제 사용자 상호작용 데이터를 기반으로 모델을 업데이트하는 데 초점을 맞출 것입니다.

SUMMARY: Qwen3-Coder-Next는 하이브리드 어텐션과 MoE 아키텍처를 기반으로 하는 오픈-웨이트 모델로, SWE-Bench Verified에서 70% 이상을 달성하며 10-20배 더 큰 모델에 필적하는 성능을 제공합니다.

TITLE: Qwen3-Coder-Next 릴리스: 고효율 에이전트 코딩 모델

Sources