mlrun/mlrun

解决的问题

MLRun 是一个 AI 编排平台，旨在减少将 AI 和生成式 AI 应用从开发阶段移至生产环境所需的工程工作量和时间。它通过自动化数据、机器学习管道和在线应用在整个生命周期中的交付，打破数据、机器学习和 DevOps 团队之间的壁垒。

如何工作

MLRun 提供一个中心化的控制和元数据层，用于管理函数、作业和密钥等项目资产。它利用 Nuclio 实现的无服务器架构，部署可扩展的实时服务管道。该平台将数据管理（包括用于离线和在线特征的特征存储）与自动化的机器学习管道（用于训练、评估和部署）集成。它还提供内置可观测性，无需复杂的代码注入即可监控模型行为、漂移和资源使用情况。

适用人群

适用于需要在企业环境中构建、扩展和监控持续 AI 应用的数据科学家、机器学习工程师和 MLOps 团队。

主要亮点

• 端到端编排： 管理从数据摄取和预处理到模型训练、评估和实时服务的完整生命周期。
• 生成式 AI 支持： 提供 RAG、LLM 微调和 LLM 评估的专用工作流。
• 无服务器部署： 使用实时自动扩展的无服务器函数，部署生产级别的应用管道。
• 集成特征存储： 自动化开发和生产环境中数据特征的收集、转换和提供。
• 内置可观测性： 原生支持数据漂移、模型性能和资源使用情况的监控，并集成告警功能。