Qwen3-Coder 發行說明

Qwen 宣佈了 Qwen3-Coder，一款為代理任務設計的高效能程式碼模型。旗艦變體 Qwen3-Coder-480B-A35B-Instruct 是一個擁有 480B 參數的 Mixture-of-Experts（MoE）模型，具備 35B 活躍參數，在開源模型中於代理程式編寫、工具使用與瀏覽器使用方面創下新最先進的成績，表現可與 Claude Sonnet 4 相媲美。

技術架構與預訓練

Qwen3-Coder 採用 Mixture-of-Experts 架構，以在總參數量與計算效率之間取得平衡。預訓練過程聚焦於三個主要的擴展維度：

  • Token Scaling: 模型在 7.5 兆 token 上進行訓練，代碼比例為 70%，以確保強大的程式編寫能力，同時不犧牲一般知識或數學推理。
  • Context Window Scaling: Qwen3-Coder 原生支援 256K token 的上下文視窗，並可透過 YaRN 擴展至 100 萬 token。此容量針對處理倉庫規模資料與如 Pull Requests 等動態輸入進行了最佳化。
  • Synthetic Data Scaling: 團隊使用 Qwen2.5-Coder 清理並重寫噪聲訓練資料，提升了預訓練語料庫的整體品質。

後訓練與強化學習

Qwen3-Coder 的能力由兩種不同的強化學習（RL）策略驅動，分別聚焦於執行與長期任務。

執行導向程式碼 RL

Qwen3-Coder 並未僅僅聚焦於競賽程式設計，而是使用大規模 RL 在廣泛的真實世界程式任務上進行訓練。透過自動擴展多樣程式任務的測試案例，模型提升了程式執行成功率以及在其他任務上的整體表現。

長期代理 RL

為了解決複雜的軟體工程任務（例如 SWE-Bench 中的任務），模型接受了「Agent RL」訓練。此過程鼓勵模型進行多回合互動——規劃、使用工具與整合回饋，以解決問題。為此，Qwen 在阿里雲上構建了可擴展的基礎設施，能夠同時運行 20,000 個獨立環境。因此，Qwen3-Coder 在 SWE-Bench Verified 上於開源模型中達到最先進的表現，且不需測試時擴展。

工具與整合

Qwen 推出了多種將 Qwen3-Coder 整合至開發工作流程的方法：

Qwen Code CLI

Qwen Code 是一個研究用途的命令列介面（CLI）工具，從 Gemini Code 分支而來，並針對 Qwen3-Coder 調整了自訂提示與函式呼叫協議。

第三方工具支援

Qwen3-Coder 相容於多款流行的開發者工具：

  • Claude Code: 使用者可透過代理 API 或 claude-code-router 與 claude-code-config npm 套件將 Qwen3-Coder 整合。
  • Cline: 可在 Cline 中設定此模型，選擇「OpenAI Compatible」提供者並使用 Dashscope API 端點。

API 存取與未來方向

Qwen3-Coder 可透過阿里雲 Model Studio API 取得。qwen3-coder-plus 模型識別碼用於透過 OpenAI 相容介面進行 API 呼叫。

未來的開發計畫包括釋出更多模型尺寸以降低部署成本，並探索程式代理的自我改進能力，以應對日益複雜的軟體工程任務。

Sources