JoshuaC215/agent-service-toolkit
Full toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit
解決する課題
このツールキットは、AIエージェントを構築・デプロイするための、完成されたプロダクションレベルのテンプレートを提供します。バックエンドサービス、APIレイヤー、ユーザーインターフェースのボイラープレートを手動で設定する必要がなくなり、開発者はエージェントのロジックとツールの定義に集中できます。
仕組み
このプロジェクトは、主に4つのコンポーネントで構成されるフルスタックアーキテクチャを実装しています:
- Agent Logic: LangGraphフレームワークを使用して構築されており、human-in-the-loopによる中断、長期メモリ(Store)、およびsupervisorパターンなどの高度な機能をサポートしています。
- Backend Service: ストリーミングおよび非ストリーミングのエンドポイントを介してエージェントを公開するFastAPIサーバー。CopilotKitなどのフロントエンドとの互換性のために、AG-UIプロトコルもサポートしています。
- Client Library: 他のアプリケーションがプログラム的にエージェントサービスと対話できるようにするためのPython
AgentClient。 - Frontend: 音声入力および音声出力機能を備えたチャットインターフェースを提供するStreamlitアプリケーション。
対象者
インフラをゼロから構築することなく、プロフェッショナルなAPIと機能的なWebインターフェースを備えたLangGraphベースのAIエージェントを、迅速にプロトタイプ化またはデプロイしたい開発者。
ハイライト
- フルスタックテンプレート: エージェントの定義からStreamlit UI、Dockerデプロイまで、すべてが含まれています。
- 高度なLangGraph統合:
interrupt()、Command、およびlanggraph-supervisorを実装しています。 - 柔軟なストリーミング: トークンベースおよびメッセージベースの両方のストリーミングをサポートしています。
- マルチエージェント対応: ユニークなURLパスを介して、複数の異なるエージェントをホストおよび呼び出すことができます。
- 組み込みRAG: ChromaDBを使用した基本的なRAG実装が含まれています。
- エンタープライズ対応のツール群: 統合されたコンテンツモデレーション(Safeguard経由)、フィードバックシステム(LangSmith経由)、および堅牢なユニット/統合テスト。