microsoft/Orchard-Agentic
Orchard-Agentic is a collection of open-source work on agentic modeling
解决的问题
Orchard-Agentic 解决了“训练与部署不匹配”以及代理建模缺乏可移植基础设施的问题。它提供了一个标准化、隔离的环境,让研究人员能够使用相同的基底进行轨迹蒸馏、强化学习 (RL) 展开以及跨领域(如软件工程和网页浏览)的评估,而无需为每项新研究重建环境。
运作方式
该项目分为四个主要层级:
- Orchard Env: 一个 Kubernetes 原生沙盒服务与 Python SDK。它按需启动隔离容器,通过 REST API 处理多轮交互(执行、文件 I/O、git 修补),且不依赖特定的代理工具或训练器。
- Orchard Eval: 一个评估层,使用 Orchard Env 沙盒针对 SWE-bench Verified 等基准测试运行代理工具(例如
codex,pi)。 - Trainer: 一个强化学习训练堆栈(基于
slime的分支),处理实际的模型优化,并在 Ray 下利用 Megatron-LM 与 SGLang 进行展开。 - Recipes: 建立在此基础上的特定研究实现,例如 Orchard-SWE(软件工程)、Orchard-GUI(浏览器导航)以及 Orchard-Claw(CLI/工具代理)。
目标对象
专为从事代理建模的 AI 研究人员与开发者设计,特别是那些专注于通过强化学习 (RL) 与监督式微调 (SFT) 训练 LLM 以使用工具、导航界面或解决复杂软件工程任务的人员。
特色亮点
- 工具无关性 (Harness-Agnostic): 在每个沙盒的
PATH中预先安装了热门的代理工具(codex,claude,pi等),让用户只需更改指令即可切换工具。 - 高性能: 提供极低的指令执行延迟 (0.28s),并支持并行启动数千个沙盒。
- 成本效益: 比托管沙盒服务便宜得多,特别是在使用竞价实例 (spot instances) 时。
- 丰富的数据集: 提供开源研究数据,包括 107K 条 SWE 轨迹与 3,000 多条多模态浏览器导航展开数据。
相关
- 项目
- 项目
- 项目
- 项目