azure-search-openai-demo: 인용 및 멀티모달 지원을 통해 개인 문서를 쿼리하는 참조 RAG 채팅 애플리케이션
azure-search-openai-demo: 인용 및 멀티모달 지원을 통해 개인 문서를 쿼리하는 참조 RAG 채팅 애플리케이션
해결하는 문제
이 프로젝트는 대규모 언어 모델의 일반적인 지식에만 의존하는 대신, 사용자의 개인 문서를 기반으로 질문에 답할 수 있는 ChatGPT와 유사한 채팅 인터페이스를 구축하기 위한 완전한 참조 구현을 제공합니다.
작동 방식
이 프로젝트는 Retrieval Augmented Generation (RAG) 패턴을 구현합니다. 시스템은 Azure AI Search를 사용하여 제공된 데이터 세트에서 관련 문서 스니펫을 인덱싱하고 검색하며, 검색된 내용은 Azure OpenAI GPT 모델로 전달되어 근거가 있고 인용된 답변을 생성합니다.
대상 사용자
내부 정책, 복지 또는 도메인별 지식 베이스를 위한 RAG 기반 AI 어시스턴트의 프로덕션 준비가 된 샘플을 배포하고자 하는 Azure 생태계를 사용하는 개발자 및 조직입니다.
주요 특징
- Multi-turn Chat: 문맥을 유지하며 지속적인 대화를 지원합니다.
- Citations: 각 답변을 생성하는 데 사용된 특정 소스 및 사고 과정을 렌더링합니다.
- Multimodal Support: 이미지 중심의 문서를 추론하기 위한 비전 모델과의 선택적 통합을 지원합니다.
- Flexible Ingestion: 다양한 문서 형식 및 클라우드 기반 데이터 인입을 지원합니다.
- Integrated Settings: 실험을 위해 프롬프트와 모델 동작을 미세 조정할 수 있는 UI 기반 컨트롤을 제공합니다.