microsoft/agent-lightning

The absolute trainer to light up AI agents.

What it solves

Agent Lightning 是為了讓 AI agent 能夠在不需要大幅修改代碼的情況下實現優化。它允許開發者將訓練技術應用於使用任何框架(例如 LangChain, AutoGen, CrewAI, 或甚至是原始的 Python OpenAI 呼叫)構建的 agent,透過迭代優化來提升其性能。

How it works

該系統使用輕量級的 tracer 和輔助函數 (agl.emit_xxx()) 來收集提示詞(prompts)、工具呼叫(tool calls)和獎勵(rewards)作為結構化的 spans。這些數據被存儲在一個名為 LightningStore 的中央 hub。優化算法(例如強化學習或自動提示詞優化)會從 store 中讀取這些 spans,從中學習並更新資源,例如提示詞模板或策略權重。接著,一個 Trainer 會管理 runner、store 和推理引擎之間的數據流,以應用這些改進。

Who it’s for

想要在不重寫 agent 核心邏輯的情況下,使用 RL 或微調(fine-tuning)等進階訓練方法來優化現有 AI agent 行為的開發者和研究人員。

Highlights

  • Framework Agnostic: 無論使用何種 agent 框架,甚至不使用框架,皆可運作。
  • Zero Code Change: 僅需對現有的 agent 代碼進行極小的修改,即可實現優化。
  • Selective Optimization: 能夠在多 agent 系統中優化特定的 agent。
  • Algorithm Support: 支援強化學習(Reinforcement Learning)、自動提示詞優化(Automatic Prompt Optimization)以及監督式微調(Supervised Fine-tuning)。