GoogleCloudPlatform/cymbal-air-toolbox-demo

解决的问题

该项目提供了一个生产级别的参考实现，用于构建能够查询和操作存储在云数据库中的数据的智能体应用程序。它特别解决了减少幻觉，并为智能体提供访问其原始训练数据集之外的实时、私有或专业数据的挑战。

工作原理

该系统采用三层架构，使大语言模型（LLM）能够安全地与数据库交互：

1. 应用层：面向用户的应用程序，负责协调用户与AI智能体之间的交互。
2. MCP工具箱：中间件服务器作为中介，将数据库操作暴露为一组离散工具（例如 find_flights）。该层处理认证、授权和连接池，防止智能体直接访问数据库。
3. 数据库：包含智能体回答查询所需信息的可扩展云数据库。

应用程序采用 检索增强生成（RAG） 来基于事实数据生成响应，并使用 基于智能体的编排，使LLM能够动态决定使用哪些工具以及使用顺序，以解决用户请求。

适用人群

希望使用基于工具的中间件方法，将大语言模型与云数据库集成，构建安全、可扩展的智能体应用程序的开发者。

主要亮点

• 安全的数据库访问：通过中间件工具箱防止LLM与数据库的直接连接。
• RAG集成：通过将检索到的数据库信息注入提示，减少幻觉。
• 智能体推理能力：超越静态调用链，允许LLM对工具选择进行推理。
• 可互换的数据库：设计为与各种首选云数据库兼容。