Qwen3-Coder リリースノート

Qwenはエージェントタスク向けに設計された高性能コードモデル、Qwen3-Coderを発表しました。フラッグシップバリアントである Qwen3-Coder-480B-A35B-Instruct は、480BパラメータのMixture-of-Experts（MoE）モデルで、35Bのアクティブパラメータを持ち、エージェント的コーディング、ツール使用、ブラウザ使用においてオープンモデルの中で新たな最先端結果を達成し、Claude Sonnet 4と同等の性能を示します。

技術アーキテクチャと事前学習

Qwen3-Coderは、総パラメータ数と計算効率のバランスを取るためにMixture-of-Expertsアーキテクチャを採用しています。事前学習プロセスは、主に以下の3つのスケーリング次元に焦点を当てました：

  • トークンスケーリング: モデルは7.5兆トークンで学習され、そのうち70%がコードであり、一般的な知識や数学的推論を犠牲にせずに強力なコーディング能力を確保しました。
  • コンテキストウィンドウスケーリング: Qwen3-Coderはネイティブで256Kトークンのコンテキストウィンドウをサポートし、YaRNを使用して1百万トークンに拡張可能です。この容量はリポジトリ規模のデータやプルリクエストなどの動的入力を処理するよう最適化されています。
  • 合成データスケーリング: チームはQwen2.5-Coderを使用してノイズの多い訓練データをクリーンアップおよび書き換え、事前学習コーパス全体の品質を向上させました。

事後学習と強化学習

Qwen3-Coderの能力は、実行と長期タスクに焦点を当てた2つの異なる強化学習（RL）戦略によって駆動されています。

実行駆動コードRL

競技プログラミングのみに焦点を当てるのではなく、Qwen3-Coderは実世界の幅広いコーディングタスクに対して大規模なRLを用いて訓練されました。多様なコーディングタスクのテストケースを自動的にスケーリングすることで、モデルはコード実行成功率と他のタスクにおける全体的な性能を向上させました。

長期エージェントRL

SWE-Benchなどの複雑なソフトウェアエンジニアリングタスクを解決するために、モデルは「Agent RL」訓練を受けました。このプロセスは、計画、ツールの使用、フィードバックの取り込みといったマルチターンインタラクションにモデルが参加することを促し、問題解決を行います。このために、QwenはAlibaba Cloud上にスケーラブルなインフラを構築し、20,000個の独立環境を並列で実行できるようにしました。その結果、Qwen3-Coderはテスト時スケーリングを必要とせず、SWE-Bench Verifiedにおいてオープンソースモデルの中で最先端の性能を達成しています。

ツールと統合

Qwenは、Qwen3-Coderを開発ワークフローに統合するためのいくつかの方法を導入しました：

Qwen Code CLI

Qwen Codeは、Gemini Codeからフォークされた研究目的のコマンドラインインターフェース（CLI）ツールで、Qwen3-Coder向けにカスタマイズされたプロンプトと関数呼び出しプロトコルが適用されています。

サードパーティツールサポート

Qwen3-Coderは複数の人気開発者ツールと互換性があります：

  • Claude Code: ユーザーはプロキシAPIまたは claude-code-router と claude-code-config npm パッケージを介して Qwen3-Coder を統合できます。
  • Cline: モデルはClineで「OpenAI Compatible」プロバイダーを選択し、Dashscope APIエンドポイントを使用して設定できます。

APIアクセスと今後の方向性

Qwen3-CoderはAlibaba Cloud Model Studio APIを通じて利用可能です。qwen3-coder-plus モデル識別子は、OpenAI互換インターフェースを介したAPI呼び出しに使用されます。

Qwen3-Coderの今後の開発では、導入コスト削減のために追加のモデルサイズをリリースし、ますます複雑になるソフトウェアエンジニアリングタスクに対応できるよう、コーディングエージェントの自己改善機能の探索が含まれます。

Sources