microsoft/Orchard-Agentic

Orchard-Agentic is a collection of open-source work on agentic modeling

解决的问题

Orchard-Agentic 解决了“训练与部署不匹配”以及代理建模缺乏可移植基础设施的问题。它提供了一个标准化、隔离的环境,让研究人员能够使用相同的基底进行轨迹蒸馏、强化学习 (RL) 展开以及跨领域(如软件工程和网页浏览)的评估,而无需为每项新研究重建环境。

运作方式

该项目分为四个主要层级:

  • Orchard Env: 一个 Kubernetes 原生沙盒服务与 Python SDK。它按需启动隔离容器,通过 REST API 处理多轮交互(执行、文件 I/O、git 修补),且不依赖特定的代理工具或训练器。
  • Orchard Eval: 一个评估层,使用 Orchard Env 沙盒针对 SWE-bench Verified 等基准测试运行代理工具(例如 codex, pi)。
  • Trainer: 一个强化学习训练堆栈(基于 slime 的分支),处理实际的模型优化,并在 Ray 下利用 Megatron-LM 与 SGLang 进行展开。
  • Recipes: 建立在此基础上的特定研究实现,例如 Orchard-SWE(软件工程)、Orchard-GUI(浏览器导航)以及 Orchard-Claw(CLI/工具代理)。

目标对象

专为从事代理建模的 AI 研究人员与开发者设计,特别是那些专注于通过强化学习 (RL) 与监督式微调 (SFT) 训练 LLM 以使用工具、导航界面或解决复杂软件工程任务的人员。

特色亮点

  • 工具无关性 (Harness-Agnostic): 在每个沙盒的 PATH 中预先安装了热门的代理工具(codex, claude, pi 等),让用户只需更改指令即可切换工具。
  • 高性能: 提供极低的指令执行延迟 (0.28s),并支持并行启动数千个沙盒。
  • 成本效益: 比托管沙盒服务便宜得多,特别是在使用竞价实例 (spot instances) 时。
  • 丰富的数据集: 提供开源研究数据,包括 107K 条 SWE 轨迹与 3,000 多条多模态浏览器导航展开数据。

相关

  • 项目
  • 项目
  • 项目
  • 项目