agent-squad: 這是什麼、解決什麼問題以及為什麼它正受到關注

agent-squad: 這是什麼、解決什麼問題以及為什麼它正受到關注

解決的問題

Agent Squad 是一個輕量級框架,旨在編排多個專業化的 AI agent,以處理複雜的多輪對話。它解決了根據上下文和內容將用戶查詢路由到最合適的 agent 的問題,同時在不同 agent 之間保持連貫的對話歷史。

工作原理

該系統使用 Classifier 來分析用戶輸入,並根據 agent 的特性和對話歷史選擇最佳的 agent。一旦選定了 agent,它會處理輸入,且編排器會保存對話以更新歷史記錄。

此外,它具有一個實作了「agent-as-tools」架構的 SupervisorAgent。這允許領導 agent 協調一個由專業化 agent 組成的團隊,並行處理任務,分配子任務並在團隊中保持上下文。

對象群體

它適用於開發複雜 AI 系統的開發者,例如具有專業化子團隊的客戶支援團隊、AI 電影製作工作室、旅遊規劃服務以及醫療保健協調系統。

重點特性

  • 雙語言支持:完全使用 Python 和 TypeScript 實作。
  • 智能路由:使用意圖分類來動態地將查詢路由到最合適的 agent。
  • 靈活的響應:同時支持串流(streaming)和非串流響應。
  • 可擴展架構:易於集成自定義 agent 和存儲解決方案。
  • 通用部署:兼容 AWS Lambda、本地環境或任何雲端平台。
  • 廣泛的集成:內置支持 Amazon Bedrock、Anthropic、OpenAI 和 Amazon Lex。

Sources