JoshuaC215/agent-service-toolkit

Full toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit

解決する課題

このツールキットは、AIエージェントを構築・デプロイするための、完成されたプロダクションレベルのテンプレートを提供します。バックエンドサービス、APIレイヤー、ユーザーインターフェースのボイラープレートを手動で設定する必要がなくなり、開発者はエージェントのロジックとツールの定義に集中できます。

仕組み

このプロジェクトは、主に4つのコンポーネントで構成されるフルスタックアーキテクチャを実装しています:

  1. Agent Logic: LangGraphフレームワークを使用して構築されており、human-in-the-loopによる中断、長期メモリ(Store)、およびsupervisorパターンなどの高度な機能をサポートしています。
  2. Backend Service: ストリーミングおよび非ストリーミングのエンドポイントを介してエージェントを公開するFastAPIサーバー。CopilotKitなどのフロントエンドとの互換性のために、AG-UIプロトコルもサポートしています。
  3. Client Library: 他のアプリケーションがプログラム的にエージェントサービスと対話できるようにするためのPython AgentClient
  4. Frontend: 音声入力および音声出力機能を備えたチャットインターフェースを提供するStreamlitアプリケーション。

対象者

インフラをゼロから構築することなく、プロフェッショナルなAPIと機能的なWebインターフェースを備えたLangGraphベースのAIエージェントを、迅速にプロトタイプ化またはデプロイしたい開発者。

ハイライト

  • フルスタックテンプレート: エージェントの定義からStreamlit UI、Dockerデプロイまで、すべてが含まれています。
  • 高度なLangGraph統合: interrupt()Command、およびlanggraph-supervisorを実装しています。
  • 柔軟なストリーミング: トークンベースおよびメッセージベースの両方のストリーミングをサポートしています。
  • マルチエージェント対応: ユニークなURLパスを介して、複数の異なるエージェントをホストおよび呼び出すことができます。
  • 組み込みRAG: ChromaDBを使用した基本的なRAG実装が含まれています。
  • エンタープライズ対応のツール群: 統合されたコンテンツモデレーション(Safeguard経由)、フィードバックシステム(LangSmith経由)、および堅牢なユニット/統合テスト。