JoshuaC215/agent-service-toolkit

解決的問題

它為開發者提供了一個完整且可直接投入生產的範本，用於建立和部署 AI 代理服務。它消除了手動設置代理邏輯（「大腦」）與網路伺服器（API）及使用者介面（聊天應用程式）之間連接的重複性工作。

如何運作

此工具包將多項關鍵技術整合成一個統一的堆疊：

• LangGraph：用於定義代理的邏輯，包含進階功能，如人機介入中斷、長期記憶，以及由監督者引導的多代理流程。
• FastAPI：作為服務層，提供串流與非串流的 API 端點，以便與代理互動。
• Streamlit：提供即時可用的聊天介面，支援語音輸入與輸出。
• Pydantic：確保資料結構與設定嚴格驗證。
• Docker：將整個環境（包含用於狀態儲存的 PostgreSQL 資料庫）打包，以便輕鬆部署。

適用對象

希望快速原型設計或部署基於 LangGraph 的 AI 代理，而無需從零開始建構基礎設施、API 層與前端的開發者。

主要特色

• 進階串流功能：支援基於 token 與基於訊息的串流，以提供響應迅速的使用者介面。
• 多代理支援：允許在單一服務中執行多個不同的代理，並透過獨特的 URL 路徑存取。
• AG-UI 協定相容：相容 AG-UI 協定，讓服務能連接外部前端，例如 CopilotKit。
• 內建 RAG：使用 ChromaDB 提供基本的檢索增強生成（RAG）實作。
• 人機介入：實作 interrupt() 與 Command，以進行流程控制與人為干預。
• 內建回饋機制：整合基於星號的回饋系統，使用 LangSmith。

這是一個極佳的起點，能快速建立可擴展的 AI 代理服務。— @handle