GoogleCloudPlatform/cymbal-air-toolbox-demo

何を解決するか

このプロジェクトは、クラウドデータベースに格納されたデータを照会・操作できる生産性の高い参照実装を提供します。特に、幻覚を低減し、元の訓練データに含まれなかったリアルタイム性、プライベート、または専門的なデータへのエージェントのアクセスを可能にするという課題に取り組んでいます。

動作方法

システムは、LLMがデータベースと安全にやり取りできるようにする3層アーキテクチャを使用しています。

1. アプリケーション: ユーザーとAIエージェントの間のやり取りを調整するユーザー向けアプリ。
2. MCPツールボックス: 中間層サーバーで、データベース操作を一連の離散的なツール（例：find_flights）として公開します。このレイヤーは認証、承認、接続プールを処理し、エージェントがデータベースに直接アクセスすることを防ぎます。
3. データベース: エージェントが質問に回答するために必要な情報を含むスケーラブルなクラウドデータベース。

アプリケーションは、検索拡張生成（RAG） を使用して応答を事実に基づかせ、エージェントベースのオーケストレーション を採用し、LLMがユーザーの要求を解決するためにどのツールを使用するか、そしてその順序を動的に決定します。

対象読者

LLMとクラウドデータベースをツールベースのミドルウェアアプローチで統合する安全でスケーラブルなエージェントアプリケーションを構築するための設計図を探している開発者。

特徴

• 安全なデータベースアクセス: ミドルウェアツールボックスを使用して、LLMとデータベースの直接接続を防ぎます。
• RAGの統合: 取得したデータベース情報でプロンプトを拡張することで、幻覚を低減します。
• エージェント型の推論: 静的な呼び出しチェーンを越えて、LLMがツール選択について推論できるようにします。
• 交換可能なデータベース: 複数の好みのクラウドデータベースと互換性を持つように設計されています。