Qwen-AgentWorld リリース：7つのドメイン向け言語ワールドモデルと汎用エージェントへの影響

TL;DR

Qwen は Qwen‑AgentWorld をリリースします。これは、単一モデル内でテキストベースと GUI ベースのエージェント環境を 7 つシミュレートし、新しい AgentWorldBench ベンチマークで最先端のシミュレーション品質を実現するネイティブ言語ワールドモデルです。このモデルは、汎用エージェントを改善するための 2 つの補完的な方法を提供します：強化学習のための制御可能なシミュレータとして、そして次状態予測を内部化した統合基盤モデルとして。

Qwen‑AgentWorld の概要

What it is – Qwen‑AgentWorld は、現在のインタラクション履歴とエージェントのアクションが与えられたときに環境の次の観測を予測するように訓練された言語ワールドモデル (LWM) です。従来のアプローチが事後に汎用 LLM を適応させるのに対し、Qwen‑AgentWorld は継続的事前学習 (CPT) の開始から監督微調整 (SFT) と強化学習 (RL) に至るまで、環境モデリングを明示的な目的として組み込んでいます。

Scope – モデルは 7 つのインタラクションドメインをカバーします：

  • テキストベース：Terminal、Search、MCP（ツール呼び出し API）、Software‑Engineering（IDE/コード編集）。
  • GUIベース：Web ブラウザ、Desktop OS、Android UI。 GUI ドメインでは、モデルは生のピクセルではなく構造化されたレンダリング可能コード（HTML、アクセシビリティツリ XML、UI 階層）を予測し、純粋なテキストシミュレーションを可能にします。

Benchmarks – ベンチマーク — モデルと共に、チームは AgentWorldBench をリリースします。これは 7 ドメインの評価スイートで、各シミュレートされた軌跡に実環境からの真実観測をペアにします。スコアリングは、LLM が評価する 5 次元ルーブリック（形式、事実性、一貫性、リアリズム、品質）を使用します。

訓練パイプライン

1. 継続的事前学習 (CPT)

  • サンドボックス、エミュレータ、オープンソースベンチマークから収集された 1,000 万件以上の実際のインタラクション軌跡から環境知識を注入します。
  • 軌跡に、産業制御、サイバーセキュリティ、法務、医療、金融、時事などの専門的な世界知識コーパスを追加します。
  • ターンレベルの情報理論的ロスマスキングを適用し、実際の環境情報を含むターンに学習を集中させます。

2. 監督微調整 (SFT)

  • `` ブロックを使用して、明示的な次状態予測パターンを導入します。
  • リジェクションサンプリングにより高品質な思考軌跡を選択し、7,094 件の SFT サンプルを生成します。

3. 強化学習 (RL)

  • GSPO RL により忠実度を高めます。
  • 報酬は、ルーブリックベースの LLM ジャッジ（多次元品質）と、正確な正しさがプログラムで検証可能なドメイン向けのルールベース検証器を組み合わせます。

AgentWorldBench における性能

モデル 総合スコア 注目ドメイン
Qwen‑AgentWorld‑397B‑A17B 58.71 (最高) Terminal、SWE（大幅な向上）
GPT‑5.4 58.25 –
Claude Opus 4.8 – –
Gemini 3.1 Pro – –

35 B‑A3B スケールでは、3 段階のパイプラインにより総合平均が 47.73 から 56.39（+8.66 ポイント）に上昇し、Claude Sonnet 4.6（56.04）を上回ります。テキストと GUI の両ドメインで向上が一貫しています。

出現する推論パターン

4 つのテキストドメインにわたる 129 件の思考トレースの分析により、3 つの異なるパターンが明らかになりました：

  1. 熟慮的自己修正 – モデルは「Wait!」という割り込みを挿入して中間予測を修正し、ターンあたり平均 10.4 回の割り込みを行います。
  2. 情報漏洩防止 – Search では、クエリが無関係な場合に対象回答のスニペットを保持し、心の理論的行動を模倣します。
  3. 多段階因果推論 – 複雑なパイプライン（例：curl -s localhost:3000 | python3 -m json.tool）の予測には 6 つの論理ステップを連鎖させる必要があり、モデルはそれを成功裏に実行します。

パラダイム I：RL のための分離シミュレーション

なぜシミュレートするのか？

  • スケーラビリティと制御性：LWM はサンドボックスインフラストラクチャを必要とせずに無制限のターンレベルインタラクションを生成し、稀少または敵対的な摂動を注入できます。
  • 内部計画：エージェントは世界モデルを使用して行動前に結果を心的にシミュレートでき、純粋なポリシー学習にはない能力です。

主な発見

  • ゼロショット汎化：4 k の OpenClaw 環境（訓練時に未見）をシミュレートすると、Claw‑Eval が +4.3、QwenClawBench が +7.1 向上します。
  • 制御されたシミュレーションの重要性：制御されていない Sim‑RL はほとんど効果がなく、自然言語の制御指示を追加すると MCPMark が +12.3、Tool Decathlon が +3.7 向上します。
  • 実環境 RL を上回る：WideSearch では、制御可能な Sim‑RL が 50.3 % の F1（ステップ 60）に達し、ライブ検索エンジンで訓練された RL の 45.6 % を上回ります。
  • 行動形成：制御可能なシミュレーションはエージェントに web_extractor 呼び出しを増やすよう促し、より深いスニペット抽出への依存を学習したことを示します。

フィクショナルワールド実験

1 k の自己完結型フィクショナルデータベースを作成すると、エージェントはシミュレートされた検索ツールに依存せざるを得ません。制御された Sim‑RL は 35 B モデルで Item‑F1 を 34.02 から 50.31（+16.29）に、Row‑F1 を 13.72 から 24.21（+10.49）に改善します。

パラダイム II：統合エージェント基盤モデル

このパラダイムでは、同じ LWM がアクション選択と次観測予測の両方を行い、世界モデリングをメタ推論スキルとして埋め込みます。

転移結果

ベンチマーク（ドメイン外） 基本スコア LWM‑RL スコア Δ
Claw‑Eval 33.3 39.6 +6.3
QwenClawBench 64.5 67.9 +3.4
BFCL v4 42.2 47.4 +5.2
WideSearch（F1 Item） 33.4 46.2 +12.8
… … … …

これらの改善は、対象エージェントタスクでの RL 微調整を行わずに得られ、次状態予測が強力な基盤スキルとして機能することを示しています。

デプロイ詳細

  • モデルサイズ：35 B‑A3B（MoE、3 B アクティブパラメータ）と 397 B‑A17B。
  • コンテキストウィンドウ：256 K トークン。
  • サービング：SGLang と vLLM に対応。例のコマンド：
# SGLang
python -m sglang.launch_server \
  --model-path Qwen/Qwen-AgentWorld-35B-A3B \
  --port 8000 \
  --tensor-parallel-size 4 \
  --context-length 262144 \
  --reasoning-parser qwen3

# vLLM
vllm serve Qwen/Qwen-AgentWorld-35B-A3B \
  --port 8000 \
  --tensor-parallel-size 4 \
  --max-model-len 262144 \
  --reasoning-parser qwen3 \
  --trust-remote-code
  • 評価パイプライン：eval/eval.py が推論、LLM ベースのジャッジ、5 つのルーブリック次元の集計を実行します。

汎用エージェントへの示唆

  1. 補完的なスケーリング軸 – LWM は制御可能でスケーラブルなシミュレーション層を提供し、実環境インタラクションを置き換えるのではなく補強します。
  2. 統合的推論 – エージェントに次状態予測を組み込むことで、反射的計画に似たメンタルシミュレーション能力が生まれ、指示遵守、長文コンテキスト処理、ドメイン知識活用が強化されます。
  3. クロスドメイン転移 – 多様な軌跡での訓練により、未見ドメインでも有益な共有モデリングスキルが得られ、ドメイン固有データの必要性が低減します。
  4. 研究ロードマップ – Qwen‑AgentWorld は、言語のみの世界モデリングが最先端モデル性能に到達し、さらには上回ることを示し、より有能で汎用的な自律エージェントへの道を開きます。

引用

@article{zuo2026qwen,
  title   = {Qwen‑agentworld: language world models for general agents},
  author  = {Zuo, Yuxin and Xiao, Zikai and Sheng, Li and Huang, Fei and Tu, Jianhong and Liu, Yuxuan and Tang, Tianyi and Hu, Xiaomeng and Su, Yang and Lan, Qingfeng and others},
  journal = {arXiv preprint arXiv:2606.24597},
  year    = {2026}
}

Sources