kitops-ml/kitops
An open source DevOps tool from the CNCF for packaging and versioning AI/ML models, datasets, code, and configuration into an OCI Artifact.
解决的问题
KitOps 提供了一种标准化的方式来打包、版本化和共享 AI/ML 项目。它解决了在开发、预发和生产环境中同步和追踪模型权重、数据集、提示词和配置的困难,尤其适用于需要高安全性和可审计性的组织。
工作原理
KitOps 使用 OCI(开放容器倡议)技术,将 AI 资产打包为「ModelKits」——不可变的、分层的工件,存储在现有的容器注册表中。Kitfile 定义了包的内容。用户通过 CLI 或 Python SDK(PyKitOps)管理这些资产,可以打包、推送、拉取和检查模型,而无需下载整个包。
适用人群
- DevOps 和平台工程师:希望将 AI 模型集成到现有 CI/CD 流水线和 Kubernetes 部署中的人员。
- 数据科学家:需要在不管理基础设施的情况下打包和追踪实验与模型的人员。
- 开发者:希望将 AI 模型视为版本化依赖项的人员。
主要亮点
- 基于 OCI 的存储:使用标准容器注册表进行 AI 资产管理。
- 防篡改:每个组件均通过 SHA-256 摘要保护,确保一致性和可追溯性。
- 安全集成:支持使用 Cosign 进行加密签名,以及使用 Rekor 进行透明日志记录。
- 灵活解包:允许用户仅拉取特定层(例如仅模型权重),而非整个包。
- 标准化格式:同时支持 ModelKit 和 CNCF ModelPack 规范。
相关
- 项目
- 项目
- 项目
- 项目
- Dispatch