kubeflow/katib

解决的问题

Kubeflow Katib 是一个面向自动化机器学习（AutoML）的 Kubernetes 原生项目，旨在自动化寻找机器学习模型的最佳超参数、神经网络架构和早期停止规则的过程。它消除了手动调优模型以获得最佳性能的繁琐工作。

工作原理

Katib 作为 Kubernetes 上的控制平面运行，作为一个与框架无关的层，可为任何语言编写的程序提供超参数调优。它可与 TensorFlow、PyTorch、XGBoost 等多种 ML 框架集成，并可通过 Kubernetes 自定义资源（包括 Kubeflow Training Operator、Argo Workflows 和 Tekton Pipelines）执行训练任务。

适用人群

主要面向需要在 Kubernetes 上进行可扩展、云原生超参数调优和架构搜索的数据科学家和 ML 工程师。

主要亮点

• 广泛的算法支持：支持多种搜索算法，包括随机搜索、网格搜索、贝叶斯优化、TPE、CMA-ES 和 HyperBand。
• HPO 与 NAS：提供超参数调优（HPO）、神经网络架构搜索（ENAS、DARTS）以及早期停止（Median Stop）功能。
• 框架无关性：兼容任何 ML 框架和任何编程语言，利用现有的工具如 Optuna、Hyperopt 和 Scikit Optimize。
• Python SDK：提供 Python SDK，简化调优任务的创建与管理。