GenerativeAIExamples: それが何であるか、解決する問題、そして注目を集めている理由
GenerativeAIExamples: それが何であるか、解決する問題、そして注目を集めている理由
解決する課題
NVIDIA のソフトウェアエコシステムを生成 AI システムに統合するための、包括的な出発点とリファレンス実装を開発者に提供します。特に、NVIDIA の専門インフラストラクチャを活用した、プロダクションレベルの RAG パイプライン、エージェントワークフロー、モデルファインチューニングプロセスの構築の複雑さに対処します。
仕組み
このリポジトリは Jupyter ノートブック、サンプルコード、リファレンスアプリケーションのカタログとして機能します。NVIDIA NIM(NeMo Inference Microservices)と NeMo マイクロサービスプラットフォームを活用し、推論、評価、ガードレイルのためのモジュラーインフラを提供します。LangChain、LlamaIndex、Haystack といった人気フレームワークと統合し、ナレッジグラフ作成やビジョンベースのワークフローなどのタスク向けに GPU 加速パイプラインを提供します。
対象者
NVIDIA のハードウェアとソフトウェアを使用して生成 AI アプリケーションを構築したい開発者や AI エンジニア、特に NVIDIA エコシステム内で RAG、エージェント AI、またはファインチューニングされた LLM を実装したい方々。
ハイライト
- RAG 実装: 基本的および高度な RAG 例(マルチターン、マルチモーダル、構造化データ)と評価・可観測性のためのツールを含む。
- エージェントワークフロー: エージェント RAG パイプラインの構築と LLM のツール呼び出し機能実装のチュートリアル。
- データフライホイール: NeMo マイクロサービスを使用したファインチューニング、推論、評価を通じた継続的なモデル改善ワークフロー。
- ビジョン NIM ワークフロー: VLM ベースのビデオモニタリング、NV-CLIP を用いたマルチモーダル検索、テキスト抽出パイプラインのリファレンスアプリケーション。
- 安全性と監査: 脆弱性を特定し安全な AI 挙動を保証するための NeMo Auditor と NeMo Guardrails などのツール。
要約
NVIDIA ソフトウェアエコシステムと NIM マイクロサービスを活用して、生成 AI システム、RAG パイプライン、エージェントワークフローを構築するためのリファレンス実装とチュートリアルのコレクション。
タイトル
GenerativeAIExamples: それが何であるか、解決する問題、そして注目を集めている理由
Sources
- undefinedNVIDIA/GenerativeAIExamples