Azure-Samples/chat-with-your-data-solution-accelerator

A Solution Accelerator for the RAG pattern running in Azure, using Azure AI Search for retrieval and Azure OpenAI large language models to power ChatGPT-style and Q&A experiences. This includes most common requirements and best practices.

它解决了什么问题

组织机构通常难以在海量的非结构化知识(如合同、政策和产品手册)中进行搜索以寻找特定答案。本项目提供了一个对话式助手,它可以对这些文档进行索引,并允许用户使用自然语言提问,从而获得带有原文内联引用的可靠答案。

工作原理

该系统使用部署在 Azure Container Apps 上的 RAG (Retrieval-Augmented Generation) 流水线。它由 React 前端、FastAPI 后端和 Azure Functions 摄取工作负载组成。

  1. 摄取:解析、分块、嵌入文档或网页,并将其存储在检索索引中(可以使用 Azure AI Search 配合 Cosmos DB,或者使用 PostgreSQL 配合 pgvector)。
  2. 检索:当用户提出问题时,后端会从索引中检索出最相关的段落。
  3. 生成:语言模型基于此上下文生成回答,然后将带有引用的回答流式传输给用户。

适用对象

该解决方案旨在为需要自动化知识检索的组织机构提供支持,例如法律专业人员(合同审查)、人力资源专业人员(政策协助)和客户成功经理(客户情报)。

亮点

  • 灵活的存储:支持使用 Azure AI Search 配合 Cosmos DB 或 PostgreSQL 配合 pgvector 作为检索引擎。
  • 可互换的编排器:允许在部署时选择 Agent Framework 或 LangGraph。
  • 管理体验:包含一个无需编写代码即可摄取数据和配置提示词的 UI。
  • 安全性:使用单个用户分配的托管身份和 Azure RBAC 进行授权,从而无需使用应用程序密钥。
  • 无障碍性:具备通过语音转文本实现的语音输入功能,以及一个用于展示模型中间步骤的推理面板。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目