JoshuaC215/agent-service-toolkit

何を解決するか

開発者がAIエージェントサービスを構築およびデプロイするための完全でプロダクション対応のテンプレートを提供します。エージェントの論理（「脳」）をWebサーバー（API）とユーザーインターフェース（チャットアプリ）に接続するための手動でのボイラープレート設定の必要性を排除します。

仕組み

このツールキットは、いくつかの主要な技術を統合されたスタックとして組み合わせます：

• LangGraph: エージェントの論理を定義するために使用され、人間による中断、長期記憶、監督主導のマルチエージェントフローなどの高度な機能を含みます。
• FastAPI: サービス層として機能し、エージェントとやり取りするためのストリーミングおよび非ストリーミングAPIエンドポイントを提供します。
• Streamlit: 音声入力および出力に対応する、すぐに使えるチャットインターフェースを提供します。
• Pydantic: データ構造および設定が厳密に検証されることを保証します。
• Docker: エージェントの状態を保持するためのPostgreSQLデータベースを含む、全体の環境をパッケージ化し、デプロイを容易にします。

対象ユーザー

インフラ、APIレイヤー、フロントエンドをゼロから構築せずに、LangGraphベースのAIエージェントを素早くプロトタイピングまたはデプロイしたい開発者です。

特徴

• 高度なストリーミング: レスポンシブなUIを実現するためのトークンベースおよびメッセージベースのストリーミングをサポートします。
• マルチエージェント対応: 1つのサービス内で複数の異なるエージェントを実行でき、それぞれ固有のURLパスからアクセス可能です。
• AG-UIプロトコル対応: AG-UIプロトコルと互換性があり、外部のフロントエンド（例: CopilotKit）と接続できます。
• 統合されたRAG: ChromaDBを使用した基本的なRetrieval-Augmented Generation（RAG）実装を含んでいます。
• 人間による介入: interrupt() および Command を実装し、フロー制御と人間の介入を可能にします。
• 組み込みフィードバック: LangSmithを使用したスター評価ベースのフィードバックシステムが統合されています。