mlrun/mlrun

解決的問題

MLRun 是一個 AI 編排平台，旨在減少將 AI 與生成式 AI 應用從開發階段移至生產環境所需的工程工作量與時間。它透過自動化數據、機器學習管道與線上應用在整個生命週期中的交付，打破資料、機器學習與 DevOps 團隊之間的隔閡。

如何運作

MLRun 提供一個中央控制與元資料層，用於管理函數、工作與金鑰等專案資產。它利用 Nuclio 實作的無伺服器架構，部署可擴展的即時服務管道。該平台將資料管理（包含用於離線與線上特徵的特徵儲存）與自動化的機器學習管道（用於訓練、評估與部署）整合。它還提供內建的可觀察性，無需複雜的程式碼儀表板即可監控模型行為、偏移與資源使用情況。

適用對象

適用於需要在企業環境中建構、擴展與監控持續性 AI 應用的資料科學家、機器學習工程師與 MLOps 團隊。

主要亮點

• 端對端編排： 管理從資料攝取與預處理到模型訓練、評估與即時服務的完整生命週期。
• 生成式 AI 支援： 提供 RAG、LLM 微調與 LLM 評估的專用工作流程。
• 無伺服器部署： 使用即時自動擴展的無伺服器函數，部署生產級的應用管道。
• 整合式特徵儲存： 自動化開發與生產環境中資料特徵的收集、轉換與提供。
• 內建可觀察性： 原生支援資料偏移、模型效能與資源使用情況的監控，並整合告警功能。