microsoft/agent-lightning

The absolute trainer to light up AI agents.

What it solves

Agent Lightning 设计旨在让 AI agent 能够在不需要进行重大代码变更的情况下实现优化。它允许开发者将训练技术应用于使用任何框架(框架,例如 LangChain, AutoGen, CrewAI, 或甚至是原始的 Python OpenAI 调用)构建的 agent,通过迭代优化来提升其性能。

How it works

该系统使用轻量级的 tracer 和辅助函数 (agl.emit_xxx()) 来收集 prompts、tool calls 和 rewards 作为结构化的 spans。这些数据被存储在一个名为 LightningStore 的中央 hub。优化算法(例如强化学习或自动提示词优化)从这些 spans 中读取数据,从 store 中学习并更新资源,例如 prompt 模板或 policy weights。一个 Trainer 则管理 runner、store 和 inference engine 之间的數據流,以应用这些改进。

Who it’s for

想要在不重写 agent 核心逻辑的情况下,使用 RL 或微调(fine-tuning)等高级训练方法来优化现有 AI agent 行为的开发者和研究人员。

Highlights

  • Framework Agnostic: 适用于任何 agent 框架,或者完全不使用框架。
  • Zero Code Change: 仅需对现有 agent 代码进行极小的修改,即可实现优化。
  • Selective Optimization: 能够在一个多 agent 系统中优化特定的 agent。
  • 智能算法支持: 支持强化学习(Reinforcement Learning)、自动提示词优化(Automatic Prompt Optimization)以及监督式微调(Supervised Fine-tuning)。