scaleapi/agentenv-framework
Creating realistic RL environments requires collaboration between researchers, engineers, and domain experts across many dimensions: artifacts, environments tools, dynamism of the environment, reproducibility, and more. There is no open source framework for building these environments effectively. Until now.
AgentEnv Framework – 快速概览
是什么 – AgentEnv Framework是一个Python SDK和命令行工具(agent-env),用于创建、部署和评估代理环境(讲agentenv-framework-protocol的容器化服务)。它允许您将环境打包为Docker镜像,在网关后面运行,指向LLM风格的代理,并自动对代理的行为进行评分。
关键组件
- 环境 – 暴露标准协议的容器化服务器(本地Docker、Vercel沙箱或自定义微型VM)。
- 代理 – 您自己的LLM导向代码(或外部服务),通过协议与这些环境交互。
- 任务/回合 – 定义的情景,编排代理与环境之间的回合,处理超时、工具调用和评分。
- 后端 – 本地Docker、Vercel沙箱、
smol_vm微型VM,以及可选的人工制品云存储(AWS、GCP、TensorLake、Tenki)。 - 插件 – 用于新环境类型、提供商、任务步骤或存储后端的可扩展点。
典型工作流程
- 定义环境(Dockerfile +
agentenv-framework-protocol服务器)。 - 构建并注册 使用
agent-env(创建版本化镜像)。 - 创建任务 描述回合(回合顺序、提示、评分)。
- 运行任务 通过
agent-env run <task>或使用Python SDK:spec = EpisodeSpec.from_task(Task.get("my-task"), turn_timeout=900) episode = await spec.start() while (turn := await episode.next_turn()) is not None: async with turn.tools() as tools: ... # 调用工具、读取提示、生成响应 await turn.end(response="完成") scores = await episode.result() - 收集分数 – CLI显示的相同数字将用于强化学习或评估。
安装 – 在PyPI上作为agentenv-framework提供。需要Python ≥ 3.11.4和用于本地后端的Docker。使用uv tool install agentenv-framework(或pip)安装CLI,并为特定提供商添加额外功能([vercel]、[smol]、[aws]等)。
为什么重要 – 它抽象了启动隔离服务和给LLM代理评分的复杂性,使需要调用外部工具、API或自定义代码的代理更容易进行基准测试或训练。
资源
- 文档: https://www.agentenvframework.com/docs
- GitHub: https://github.com/scaleapi/agentenv-framework
- 许可证: Apache-2.0
相关
- 项目
- 项目
- 项目
- 项目