kitops-ml/kitops

An open source DevOps tool from the CNCF for packaging and versioning AI/ML models, datasets, code, and configuration into an OCI Artifact.

解決的問題

KitOps 提供了一種標準化的方式來打包、版本化和分享 AI/ML 專案。它解決了在開發、測試與生產環境之間同步與追蹤模型權重、資料集、提示詞與設定的困難,特別是對於需要高安全性與可稽核性的組織而言尤為重要。

運作方式

KitOps 使用 OCI(開放容器倡議)技術,將 AI 資產打包為「ModelKits」——不可變、分層的工件,儲存在現有的容器註冊表中。Kitfile 定義了套件的內容。使用者可透過 CLI 或 Python SDK(PyKitOps)管理這些資產,可進行打包、推送、拉取與檢視模型,而無需下載整個套件。

適用對象

  • DevOps 與平台工程師:希望將 AI 模型整合至現有的 CI/CD 流水線與 Kubernetes 部署中的人員。
  • 資料科學家:需要在不管理基礎設施的情況下打包與追蹤實驗與模型的人員。
  • 開發者:希望將 AI 模型視為版本化相依性的人員。

主要特色

  • 基於 OCI 的儲存:使用標準容器註冊表進行 AI 資產管理。
  • 防篡改:每個元件均透過 SHA-256 摘要保護,確保一致性與可追蹤性。
  • 安全整合:支援使用 Cosign 進行加密簽章,以及使用 Rekor 進行透明日誌記錄。
  • 彈性解包:允許使用者僅拉取特定層(例如僅模型權重),而非整個套件。
  • 標準化格式:同時支援 ModelKit 與 CNCF ModelPack 規範。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • Dispatch