Snowflake-Labs/agent-world-model

Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning

What it solves

Agent World Model (AWM) は、ツールを使用するエージェントのトレーニングと評価のための、多様で実行可能な環境の不足を解決します。エージェントがリアルタイムで対話できる、数千ものユニークな SQL ベースの合成環境を自動生成する方法を提供し、強化学習を通じてマルチターン・ツール使用能力を向上させることができます。

How it works

AWM は、以下のマルチステップ合成パイプラインを使用してこれらの環境を生成します:

  1. Scenario Generation: 少数のシードセットからユニークなシナリオ記述を作成します。
  2. Task Generation: 各シナリオに対して特定のユーザータスクを定義します。
  3. Database Synthesis: SQL データベースのスキーマを作成し、タスクをサポートするためにサンプルデータを投入します。
  4. Interface Synthesis: API 仕様を作成し、統一された Model Context Protocol (MCP) インターフェースを介して環境を公開するための対応する Python コードを作成します。
  5. Verification Synthesis: コードベースまたは LLM 拡張による判定器 (judges) を生成し、エージェントがタスクを成功に完了したかを確認します。

Who it’s for

このプロジェクトは、エージェント強化学習、ツール使用評価、および複雑なデータベース駆動型環境で動作する必要がある LLM の開発に取り組む AI 研究者や開発者向けに設計されています。

Highlights

  • Massive Scale: 1,000 個の実行可能な SQL ベースの環境を合成します。
  • Unified Interface: Model Context Protocol (MCP) を使用して、一貫したツールインタラクションを実現します。
  • RL-Ready: meta-pytorch/OpenEnv と統合されており、大規模なエージェント強化学習トレーニングをサポートします。
  • Automated Verification: 純粋なコードベースおよび LLM-as-a-Judge 検証方法の両方が含まれています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • Dispatch