wassim249/fastapi-langgraph-agent-production-ready-template

何を解決するか

このプロジェクトは、AIエージェント向けのプロダクションレディなバックエンドテンプレートを提供し、開発者が反復的なインフラストラクチャの懸念事項を手動で実装する必要性を排除します。基本的なローカルエージェントのプロトタイプと、デプロイ可能なサービスとの間のギャップを、状態管理、認証、およびオブザーバビリティ（可観測性）といった不可欠なプロダクション機能を統合することで埋めます。

仕組み

このテンプレートは、Webフレームワークとして FastAPI を、エージェントの状態を持つロジックとツール実行を管理するために LangGraph を使用しています。以下のいくつかの特化されたサービスを組み込んでいます：

• Memory: ユーザー固有の長期的なセマンティックメモリのために mem0 と pgvector を使用します。
• LLM Management: 専用のサービスが、サーキュラー・フォールバック・メカニズム（プライマリモデルが失敗した場合にバックアップモデルに切り替える）と指数バックオフによるリトライを備えたモデル選択を処理します。
• Observability: LLM呼び出しのトレースには Langfuse を、システムメトリクスには Prometheus/Grafana を統合しています。
• Security: JWTベースの認証とセッション管理を実装し、レート制限は slowapi によって処理されます。
• Data: ORMには SQLModel を、データベースマイグレーションには Alembic を使用します。

対象者

インフラ、認証、およびモニタリングをゼロから構築することに時間を費やすことなく、エージェント型バックエンドを構築するためのプロフェッショナルでスケーラブルな基盤を必要とするAIエンジニア。

ハイライト

• Stateful Conversations: LangGraphを介したチェックポインティングとHuman-in-the-loopなインタラクションの組み込みサポート。
• Resilient LLM Calls: 信頼性を確保するための、サーキュラー・モデル・フォールバックと合計タイムアウト予算。
• Long-term Memory: pgvectorを介したユーザーごとのセルフホスト型セマンティック検索。
• Production Tooling: リクエストコンテキストを含む構造化ロギング、JWT認証、および完全なモニタリングスタック（Prometheus/Grafana）が含まれます。