Azure-Samples/chat-with-your-data-solution-accelerator
A Solution Accelerator for the RAG pattern running in Azure, using Azure AI Search for retrieval and Azure OpenAI large language models to power ChatGPT-style and Q&A experiences. This includes most common requirements and best practices.
解決的問題
組織經常難以在大量非結構化知識(例如合約、政策和產品手冊)中搜尋特定答案。此專案提供了一個對話式助理,可索引這些文件,讓使用者以自然語言提問,並獲得有根據的回應,同時附上內嵌的來源引用。
運作方式
系統使用部署在 Azure Container Apps 上的 RAG(檢索增強生成)流程。它包含一個 React 前端、一個 FastAPI 後端,以及一個 Azure Functions 資料攝取工作進程。
- 攝取:文件或網頁會被解析、切塊、嵌入並儲存在檢索索引中(可選擇 Azure AI Search 搭配 Cosmos DB,或 PostgreSQL 搭配 pgvector)。
- 檢索:當使用者提出問題時,後端會從索引中擷取最相關的段落。
- 生成:語言模型會根據此上下文生成回應,並以串流方式傳送到使用者,同時附上引用來源。
適用對象
此解決方案專為需要自動化知識檢索的組織設計,適用於法律專業人員(合約審查)、人力資源專業人員(政策支援)以及客戶成功經理(客戶洞察)等角色。
主要特色
- 彈性儲存:支援 Azure AI Search 搭配 Cosmos DB,或 PostgreSQL 搭配 pgvector 作為檢索引擎。
- 可交換的 orchestrator:部署時可選擇 Agent Framework 或 LangGraph。
- 管理員體驗:提供 UI 用於資料攝取與提示設定,無需撰寫程式碼。
- 安全性:使用單一使用者指派的受控身分與 Azure RBAC 進行授權,無需應用程式密碼。
- 可及性:支援語音輸入(語音轉文字)與推理面板,可顯示模型的中間推理步驟。
相關
- 專案
- 專案
- 專案
- 專案
- 專案