GoogleCloudPlatform/cymbal-air-toolbox-demo

解決的問題

本專案提供一個生產級的參考實作，用於建構能夠查詢與互動雲端資料庫中資料的智能體應用程式。它特別解決了降低幻覺，並讓智能體存取其原始訓練資料集以外的即時、私人或專業資料的挑戰。

運作方式

系統採用三層架構，讓大語言模型（LLM）能安全地與資料庫互動：

1. 應用程式：面向使用者的應用程式，負責協調使用者與AI智能體之間的互動。
2. MCP工具箱：中間層伺服器作為中介，將資料庫操作公開為一組離散工具（例如 find_flights）。此層負責認證、授權與連接池，防止智能體直接存取資料庫。
3. 資料庫：包含智能體回應查詢所需資訊的可擴展雲端資料庫。

應用程式採用 檢索增強生成（RAG），以事實資料為基礎產生回應，並使用 基於智能體的編排，讓LLM能動態決定使用哪些工具及順序，以解決使用者的請求。

適用對象

希望使用基於工具的中間層方法，將大語言模型與雲端資料庫整合，建構安全且可擴展的智能體應用程式的開發者。

主要亮點

• 安全的資料庫存取：透過中間層工具箱防止LLM與資料庫的直接連接。
• RAG整合：透過將檢索到的資料庫資訊注入提示，減少幻覺。
• 智能體推理能力：超越靜態呼叫鏈，允許LLM對工具選擇進行推理。
• 可交換的資料庫：設計為與各種偏好的雲端資料庫相容。