Azure-Samples/azure-search-openai-javascript

A TypeScript sample app for the Retrieval Augmented Generation pattern running on Azure, using Azure AI Search for retrieval and Azure OpenAI and LangChain large language models (LLMs) to power ChatGPT-style and Q&A experiences.

해결하는 문제

이 프로젝트는 기업의 자체 사내 엔터프라이즈 데이터를 기반으로 질문에 답변할 수 있는 ChatGPT 유사 경험을 구축하기 위한 참조 구현을 제공합니다. 이로 인해 모델이 일반 지식에만 의존하는 것을 방지하고, 환상(홀루시네이션)을 줄일 수 있습니다.

작동 방식

Azure 서비스의 조합을 사용하여 Retrieval Augmented Generation (RAG) 패턴을 구현합니다. 시스템은 세 가지 주요 구성 요소로 구성됩니다:

  • 검색 서비스: Azure AI Search를 사용하여 데이터 소스에서 관련 문서를 인덱싱하고 검색합니다.
  • 인덱서 서비스: 데이터를 처리하고 검색 인덱스에 인덱싱하는 작업을 담당합니다.
  • 웹 앱: 사용자, Azure AI Search 리트리버, Azure OpenAI Service(특히 gpt-4o-mini 모델) 간의 상호작용을 조율하는 프론트엔드 인터페이스로, 근거 있는 응답을 생성합니다.

대상 사용자

JavaScript/Node.js와 Azure 생태계를 사용하여 프로덕션 준비된 RAG 애플리케이션을 배포하고자 하는 개발자 및 아키텍트를 위한 것입니다.

주요 특징

  • 신뢰성 도구: 인용 및 소스 콘텐츠 추적 기능을 포함하여 사용자가 AI 응답을 검증할 수 있도록 지원합니다.
  • 실험용 UX: 사용자 인터페이스 내에서 프롬프트와 모델 동작을 조정할 수 있는 내장 설정을 제공합니다.
  • SaaS 준비된 배포: Azure Developer CLI (azd)와 통합되어 컨테이너 앱, 정적 웹 앱, AI 서비스의 프로비저닝을 간편하게 수행할 수 있습니다.
  • 상호 운용성 있는 백엔드: AI 챗 앱을 위한 표준화된 HTTP 프로토콜을 구현하여 백엔드를 다른 호환 가능한 구현으로 쉽게 교체할 수 있습니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트