Snowflake-Labs/agent-world-model
Agent World Model: Infinity Synthetic Environments for Agentic Reinforcement Learning
What it solves
Agent World Model (AWM) 解决了训练和评估使用工具的智能体时,缺乏多样化且可执行环境的问题。它提供了一种自动生成数千个独特的、基于 SQL 的合成环境的方法,智能体可以实时与这些环境进行交互,通过强化学习来提升其多轮工具使用能力。
How it works
AWM 使用多步合成流水线来创建这些环境:
- Scenario Generation: 从少量的种子集创建独特的场景描述。
- Task Generation: 定义每个场景的具体用户任务。
- Database Synthesis: 生成 SQL 数据库模式 (schema) 并填充样本数据以支持任务。
- Interface Synthesis: 创建 API 规范并生成相应的 Python 代码,通过统一的 Model Context Protocol (MCP) 接口来公开环境。
- Verification Synthesis: 生成基于代码或 LLM 增强的裁判 (judges) 来验证智能体是否成功完成了任务。
Who it’s for
该项目是为从事智能体强化学习、工具使用评估以及开发需要在复杂、数据库驱动环境中运行的 LLM 的 AI 研究人员和开发者设计的。
Highlights
- Massive Scale: 合成 1,000 个可执行的、基于 SQL 的环境。
- Unified Interface: 使用 Model Context Protocol (MCP) 进行一致的工具交互。
- RL-Ready: 与
meta-pytorch/OpenEnv集成,以支持大规模智能体 RL 训练。 - Automated Verification: 包括纯代码基于和 LLM-as-a-Judge 验证方法。
相关
- 项目
- 项目
- 项目
- 项目
- Dispatch