JoshuaC215/agent-service-toolkit

Full toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit

解決的問題

該工具包為構建和部署 AI Agent 提供完整的、生產就緒的模板。它消除了手動設置後端服務、API 層和使用者介面樣板程式碼的需要，讓開發者可以專注於定義 Agent 的邏輯和工具。

工作原理

該專案實現了一個由四個主要組件組成的完整全棧架構：

  1. Agent Logic: 使用 LangGraph 框架構建，支援 human-in-the-loop 中斷、長期記憶 (Store) 和 supervisor 模式等高級功能。
  2. Backend Service: 一個 FastAPI 伺服器，透過串流和非串流端點公開 Agent，包括支援用於與 CopilotKit 等前端相容的 AG-UI 協定。
  3. Client Library: 一個 Python AgentClient，允許其他應用程式以程式化方式與 Agent 服務進行互動。
  4. Frontend: 一個 Streamlit 應用程式，提供具有語音輸入和輸出能力的聊天介面。

適用對象

想要快速原型設計或部署基於 LangGraph 的 AI Agent，且希望擁有專業 API 和功能性 Web 介面，而無需從頭構建基礎設施的開發者。

亮點

  • 全棧模板: 包含從 Agent 定義到 Streamlit UI 及 Docker 部署的一切內容。
  • 高級 LangGraph 整合: 實現了 interrupt()、Command 和 langgraph-supervisor。
  • 靈活的串流傳輸: 支援基於 Token 和基於訊息的串流傳輸。
  • 多 Agent 支援: 能夠透過唯一的 URL 路徑託管和呼叫多個不同的 Agent。
  • 內建 RAG: 包含使用 ChromaDB 的基礎 RAG 實現。
  • 企業級工具: 整合了內容審核（透過 Safeguard）、回饋系統（透過 LangSmith）以及強大的單元/整合測試。