scaleapi/agentenv-framework

Creating realistic RL environments requires collaboration between researchers, engineers, and domain experts across many dimensions: artifacts, environments tools, dynamism of the environment, reproducibility, and more. There is no open source framework for building these environments effectively. Until now.

AgentEnv Framework – 快速概览

是什么 – AgentEnv Framework是一个Python SDK和命令行工具(agent-env),用于创建、部署和评估代理环境(讲agentenv-framework-protocol的容器化服务)。它允许您将环境打包为Docker镜像,在网关后面运行,指向LLM风格的代理,并自动对代理的行为进行评分。

关键组件

  • 环境 – 暴露标准协议的容器化服务器(本地Docker、Vercel沙箱或自定义微型VM)。
  • 代理 – 您自己的LLM导向代码(或外部服务),通过协议与这些环境交互。
  • 任务/回合 – 定义的情景,编排代理与环境之间的回合,处理超时、工具调用和评分。
  • 后端 – 本地Docker、Vercel沙箱、smol_vm微型VM,以及可选的人工制品云存储(AWS、GCP、TensorLake、Tenki)。
  • 插件 – 用于新环境类型、提供商、任务步骤或存储后端的可扩展点。

典型工作流程

  1. 定义环境(Dockerfile + agentenv-framework-protocol服务器)。
  2. 构建并注册 使用agent-env(创建版本化镜像)。
  3. 创建任务 描述回合(回合顺序、提示、评分)。
  4. 运行任务 通过agent-env run <task>或使用Python SDK:
    spec = EpisodeSpec.from_task(Task.get("my-task"), turn_timeout=900)
    episode = await spec.start()
    while (turn := await episode.next_turn()) is not None:
        async with turn.tools() as tools:
            ...  # 调用工具、读取提示、生成响应
        await turn.end(response="完成")
    scores = await episode.result()
    
  5. 收集分数 – CLI显示的相同数字将用于强化学习或评估。

安装 – 在PyPI上作为agentenv-framework提供。需要Python ≥ 3.11.4和用于本地后端的Docker。使用uv tool install agentenv-framework(或pip)安装CLI,并为特定提供商添加额外功能([vercel]、[smol]、[aws]等)。

为什么重要 – 它抽象了启动隔离服务和给LLM代理评分的复杂性,使需要调用外部工具、API或自定义代码的代理更容易进行基准测试或训练。

资源

相关

  • 项目
  • 项目
  • 项目
  • 项目