GenerativeAIExamples：它是什麼、解決了什麼問題以及為何受到關注

它解決了什麼

它提供了一套完整的起始範例與參考實作，讓開發者能將 NVIDIA 的軟體生態系統整合到生成式 AI 系統中。它特別針對建構可投入生產的 RAG 流程、代理式工作流以及模型微調流程的複雜性，提供 NVIDIA 專屬基礎建設的解決方案。

它如何運作

此倉庫作為 Jupyter Notebook、範例程式碼與參考應用的目錄。它利用 NVIDIA NIM（NeMo Inference Microservices）與 NeMo 微服務平台，提供推論、評估與安全防護的模組化基礎建設。它與 LangChain、LlamaIndex、Haystack 等熱門框架整合，並提供 GPU 加速的管線，用於知識圖譜建立、視覺相關工作流等任務。

目標對象

想使用 NVIDIA 硬體與軟體打造生成式 AI 應用的開發者與 AI 工程師，特別是希望在 NVIDIA 生態系統內實作 RAG、代理式 AI 或微調大型語言模型（LLM）的人員。

重點特色

• RAG 實作：包含基礎與進階的 RAG 範例（多輪對話、多模態與結構化資料）以及評估與可觀測性工具。
• 代理式工作流：教學示範如何建構代理式 RAG 流程，並為 LLM 實作工具呼叫功能。
• 資料飛輪：透過 NeMo 微服務進行微調、推論與評估，實現模型持續改進的工作流。
• 視覺 NIM 工作流：提供基於 VLM 的影片監控、使用 NV-CLIP 的多模態搜尋以及文字抽取管線的參考應用。
• 安全與稽核：如 NeMo Auditor 與 NeMo Guardrails 等工具，用於識別漏洞並確保 AI 行為安全。

摘要

一系列參考實作與教學，說明如何使用 NVIDIA 軟體生態系統與 NIM 微服務，構建生成式 AI 系統、RAG 流程與代理式工作流。

標題

GenerativeAIExamples：它是什麼、解決了什麼問題以及為何受到關注