Azure-Samples/azure-search-openai-javascript
A TypeScript sample app for the Retrieval Augmented Generation pattern running on Azure, using Azure AI Search for retrieval and Azure OpenAI and LangChain large language models (LLMs) to power ChatGPT-style and Q&A experiences.
해결하는 문제
이 프로젝트는 기업의 자체 사내 엔터프라이즈 데이터를 기반으로 질문에 답변할 수 있는 ChatGPT 유사 경험을 구축하기 위한 참조 구현을 제공합니다. 이로 인해 모델이 일반 지식에만 의존하는 것을 방지하고, 환상(홀루시네이션)을 줄일 수 있습니다.
작동 방식
Azure 서비스의 조합을 사용하여 Retrieval Augmented Generation (RAG) 패턴을 구현합니다. 시스템은 세 가지 주요 구성 요소로 구성됩니다:
- 검색 서비스: Azure AI Search를 사용하여 데이터 소스에서 관련 문서를 인덱싱하고 검색합니다.
- 인덱서 서비스: 데이터를 처리하고 검색 인덱스에 인덱싱하는 작업을 담당합니다.
- 웹 앱: 사용자, Azure AI Search 리트리버, Azure OpenAI Service(특히 gpt-4o-mini 모델) 간의 상호작용을 조율하는 프론트엔드 인터페이스로, 근거 있는 응답을 생성합니다.
대상 사용자
JavaScript/Node.js와 Azure 생태계를 사용하여 프로덕션 준비된 RAG 애플리케이션을 배포하고자 하는 개발자 및 아키텍트를 위한 것입니다.
주요 특징
- 신뢰성 도구: 인용 및 소스 콘텐츠 추적 기능을 포함하여 사용자가 AI 응답을 검증할 수 있도록 지원합니다.
- 실험용 UX: 사용자 인터페이스 내에서 프롬프트와 모델 동작을 조정할 수 있는 내장 설정을 제공합니다.
- SaaS 준비된 배포: Azure Developer CLI (
azd)와 통합되어 컨테이너 앱, 정적 웹 앱, AI 서비스의 프로비저닝을 간편하게 수행할 수 있습니다. - 상호 운용성 있는 백엔드: AI 챗 앱을 위한 표준화된 HTTP 프로토콜을 구현하여 백엔드를 다른 호환 가능한 구현으로 쉽게 교체할 수 있습니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트