Azure-Samples/chat-with-your-data-solution-accelerator

무엇을 해결하는가

조직은 계약서, 정책, 제품 매뉴얼과 같은 방대한 양의 비정형 지식을 검색하여 특정 답변을 찾는 데 종종 어려움을 겪습니다. 이 프로젝트는 이러한 문서를 인덱싱하고 사용자가 자연어로 질문을 할 수 있도록 하며, 출처 자료에 대한 인라인 인용이 포함된 근거 있는 답변을 제공하는 대화형 어시스턴트를 제공합니다.

작동 방식

이 시스템은 Azure Container Apps에 배포된 RAG (Retrieval-Augmented Generation) 파이프라인을 사용합니다. React 프론트엔드, FastAPI 백엔드, 그리고 Azure Functions 인제스션 워커로 구성됩니다.

1. Ingestion: 문서는 또는 웹 페이지는 파싱, 청킹, 임베딩 과정을 거쳐 검색 인덱스(Azure AI Search와 Cosmos DB 또는 PostgreSQL과 pgvector 중 하나)에 저장됩니다.
2. Retrieval: 사용자가 질문을 하면, 백엔드는 인덱스에서 가장 관련성 높은 구절을 검색합니다.
3. Generation: 언어 모델은 이 컨텍스트를 바탕으로 답변을 생성하며, 생성된 답변은 인용과 함께 사용자에게 스트리밍됩니다.

대상 사용자

이 솔루션은 법률 전문가(계약 검토), 인사 전문가(정책 지원), 고객 성공 매니저(고객 인텔리전스)와 같은 역할을 수행하는 조직에서 지식 검색을 자동화하고자 하는 경우를 위해 설계되었습니다.

주요 특징

• Flexible Storage: 검색 엔진으로 Azure AI Search와 Cosmos DB 또는 PostgreSQL과 pgvector를 모두 지원합니다.
• Interchangeable Orchestrators: 배포 시점에 Agent Framework 또는 LangGraph 중 하나를 선택할 수 있습니다.
• Admin Experience: 코드를 작성하지 않고도 데이터를 인제스션하고 프롬프트를 구성할 수 있는 UI를 포함합니다.
• Security: 단일 사용자 할당 관리 ID와 Azure RBAC를 사용하여 권한 부여를 수행하므로 애플리케이션 비밀번호가 필요하지 않습니다.
• Accessibility: Speech-to-text를 통한 음성 입력 기능과 모델의 중간 단계를 보여주는 추론 패널을 제공합니다.