JoshuaC215/agent-service-toolkit

Full toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit

解决的问题

该工具包为构建和部署 AI Agent 提供完整的、生产就绪的模板。它消除了手动设置后端服务、API 层和用户界面样板代码的需要，让开发者可以专注于定义 Agent 的逻辑和工具。

工作原理

该项目实现了一个由四个主要组件组成的完整全栈架构：

  1. Agent Logic: 使用 LangGraph 框架构建，支持 human-in-the-loop 中断、长期记忆 (Store) 和 supervisor 模式等高级功能。
  2. Backend Service: 一个 FastAPI 服务器，通过流式和非流式端点公开 Agent，包括支持用于与 CopilotKit 等前端兼容的 AG-UI 协议。
  3. Client Library: 一个 Python AgentClient，允许其他应用程序以编程方式与 Agent 服务进行交互。
  4. Frontend: 一个 Streamlit 应用程序，提供具有语音输入和输出能力的聊天界面。

适用对象

想要快速原型设计或部署基于 LangGraph 的 AI Agent，且希望拥有专业 API 和功能性 Web 界面，而无需从头构建基础设施的开发者。

亮点

  • 全栈模板: 包含从 Agent 定义到 Streamlit UI 及 Docker 部署的一切内容。

  • 高级 LangGraph 集成: 实现了 interrupt()、Command 和 langgraph-supervisor。

  • 灵活的流式传输: 支持基于 Token 和基于消息的流式传输。

  • 多 Agent 支持: 能够通过唯一的 URL 路径托管和调用多个不同的 Agent。

  • 内置 RAG: 包含使用 ChromaDB 的基础 RAG 实现。

  • 企业级工具: 集成了内容审核（通过 Safeguard）、反馈系统（通过 LangSmith）以及强大的单元/集成测试。