statmike/vertex-ai-mlops

解決的問題

本專案提供了一套全面的實用、互動式工作流程庫，用於在 Google Cloud Platform (GCP) 上實作機器學習營運 (MLOps) 與生成式 AI。它透過為訓練、服務和管理 AI 模型及代理程式提供可調整的起點，彌合了理論文件與生產級程式碼之間的差距。

運作方式

該儲存庫包含超過 470 個互動式筆記本，並組織為多個專業領域軌道：

• MLOps：涵蓋從訓練到生產的完整生命週期，包含服務 (vLLM, Triton)、特徵儲存庫 (託管與基於 Bigtable) 、KFP 管線與模型監控。
• Data + AI：將 AI 函式直接整合到 BigQuery、Dataflow 和 Dataproc 等資料服務中，將推論帶到資料所在之處。
• Applied GenAI：實作進階 RAG 管線、多模態提示、跨 11 種不同 GCP 資料庫的向量搜尋以及基礎驗證。
• Applied Forecasting：提供使用從 BQML 到 TimesFM 等基礎模型進行時間序列預測的學習路徑。
• Framework Workflows：展示 PyTorch、Keras、CatBoost 和 R 的端到端模式，共享通用的模型註冊表和預測端點。
• Applied ML：包含 AI 代理程式 (使用 ADK 和 MCP) 、文件處理以及透過 Vertex AI Vizier 進行黑盒優化的原型。

適用對象

正在 Google Cloud 上建構 AI 應用程式，且需要具體、實作範例來了解如何協調各種 GCP 服務以進行真實世界 AI 工作流程的資料科學家、ML 工程師和雲端架構師。

亮點

• 大規模：超過 470 個互動式筆記本，涵蓋廣泛的 GCP AI 服務。
• 深度整合：展示如何將 Vertex AI 與 BigQuery、Spanner、AlloyDB 和 GKE 結合使用。
• 代理程式焦點：包含使用 Agent Engine 和 ADK 的現代 AI 代理程式工作流程。
• RAG 專業化：提供跨多個資料庫後端的分塊、排序和向量搜尋的詳細指南。