GoogleCloudPlatform/cymbal-air-toolbox-demo

해결하는 문제

이 프로젝트는 클라우드 데이터베이스에 저장된 데이터를 쿼리하고 상호작용할 수 있는 생산성 수준의 참조 구현을 제공합니다. 특히, 환상( hallucinations )을 줄이고 원래 학습 데이터에 포함되지 않은 실시간, 개인 정보, 또는 전문적인 데이터에 에이전트가 접근할 수 있도록 하는 도전 과제를 해결합니다.

작동 방식

시스템은 LLM이 데이터베이스와 안전하게 상호작용할 수 있도록 3계층 아키텍처를 사용합니다.

1. 애플리케이션: 사용자와 AI 에이전트 간의 상호작용을 조율하는 사용자 친화적 앱.
2. MCP 도구 상자: 중간 계층 서버로, 데이터베이스 작업을 일련의 독립된 도구(예: find_flights)로 노출합니다. 이 계층은 인증, 권한 부여, 연결 풀링을 처리하여 에이전트가 데이터베이스에 직접 접근하는 것을 방지합니다.
3. 데이터베이스: 에이전트가 질문에 답하기 위해 필요한 정보를 포함하는 확장 가능한 클라우드 데이터베이스.

애플리케이션은 검색 증강 생성(RAG) 을 사용하여 응답을 사실 기반으로 하며, 에이전트 기반 오케스트레이션 을 통해 LLM이 사용할 도구와 순서를 동적으로 결정하여 사용자의 요청을 해결합니다.

대상 사용자

LLM과 클라우드 데이터베이스를 도구 기반 미들웨어 접근 방식으로 통합하여 안전하고 확장 가능한 에이전트 애플리케이션을 구축하고자 하는 개발자.

주요 특징

• 안전한 데이터베이스 접근: 미들웨어 도구 상자를 사용하여 LLM과 데이터베이스 간 직접 연결을 방지합니다.
• RAG 통합: 검색된 데이터베이스 정보로 프롬프트를 보강하여 환상을 줄입니다.
• 에이전트 기반 추론: 정적 호출 체인을 넘어서 LLM이 도구 선택에 대해 추론할 수 있도록 합니다.
• 교체 가능한 데이터베이스: 다양한 선호하는 클라우드 데이터베이스와 호환되도록 설계되어 있습니다.