wassim249/fastapi-langgraph-agent-production-ready-template

它解决了什么问题

这个项目提供了一个可用于生产的 AI 代理后端模板，消除了开发者手动实现重复性基础设施问题的需要。它通过集成状态管理、认证和可观测性等关键生产功能，弥合了基本本地代理原型与可部署服务之间的差距。

它如何工作

该模板使用 FastAPI 作为 Web 框架，并使用 LangGraph 来管理代理的状态化逻辑和工具执行。它集成了多个专用服务：

• 记忆：使用 mem0 和 pgvector 实现长期、用户特定的语义记忆。
• LLM 管理：专用服务负责模型选择，采用循环回退机制（主模型失败时切换到备用模型）和指数退避重试。
• 可观测性：集成 Langfuse 用于追踪 LLM 调用，以及 Prometheus/Grafana 用于系统指标。
• 安全：采用基于 JWT 的认证和会话管理，速率限制由 slowapi 处理。
• 数据：使用 SQLModel 进行 ORM，使用 Alembic 进行数据库迁移。

适合谁

需要专业、可扩展基础来构建代理后端，但又不想从零开始搭建基础设施、认证和监控的 AI 工程师。

特色亮点

• 有状态对话：通过 LangGraph 原生支持检查点和人工介入交互。
• 可靠的 LLM 调用：循环模型回退和总超时预算，确保可靠性。
• 长期记忆：通过 pgvector 实现每个用户的自托管语义搜索。
• 生产级工具：包含带请求上下文的结构化日志、JWT 认证以及完整的监控栈（Prometheus/Grafana）。