Snowflake-Labs/agent-world-model

Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning

What it solves

Agent World Model (AWM) 解决了训练和评估使用工具的智能体时,缺乏多样化且可执行环境的问题。它提供了一种自动生成数千个独特的、基于 SQL 的合成环境的方法,智能体可以实时与这些环境进行交互,通过强化学习来提升其多轮工具使用能力。

How it works

AWM 使用多步合成流水线来创建这些环境:

  1. Scenario Generation: 从少量的种子集创建独特的场景描述。
  2. Task Generation: 定义每个场景的具体用户任务。
  3. Database Synthesis: 生成 SQL 数据库模式 (schema) 并填充样本数据以支持任务。
  4. Interface Synthesis: 创建 API 规范并生成相应的 Python 代码,通过统一的 Model Context Protocol (MCP) 接口来公开环境。
  5. Verification Synthesis: 生成基于代码或 LLM 增强的裁判 (judges) 来验证智能体是否成功完成了任务。

Who it’s for

该项目是为从事智能体强化学习、工具使用评估以及开发需要在复杂、数据库驱动环境中运行的 LLM 的 AI 研究人员和开发者设计的。

Highlights

  • Massive Scale: 合成 1,000 个可执行的、基于 SQL 的环境。
  • Unified Interface: 使用 Model Context Protocol (MCP) 进行一致的工具交互。
  • RL-Ready: 与 meta-pytorch/OpenEnv 集成,以支持大规模智能体 RL 训练。
  • Automated Verification: 包括纯代码基于和 LLM-as-a-Judge 验证方法。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • Dispatch