flyte: 순수 파이썬으로 ML 파이프라인 및 AI 에이전트를 확장하기 위한 쿠버네티스‑네이티브 오케스트레이션 플랫폼

해결하는 문제

Flyte는 ML 파이프라인, 모델 및 에이전트를 대규모로 안정적으로 오케스트레이션하도록 설계되었습니다. 개발자가 순수 파이썬으로 복잡한 워크플로를 구축하고 배포할 수 있게 하여 로컬 개발에서 프로덕션 급 분산 시스템으로의 전환을 단순화합니다.

작동 방식

Flyte는 파이썬 기반 환경 시스템을 사용해 작업과 워크플로를 정의합니다. 사용자는 TaskEnvironment 또는 FastAPIAppEnvironment를 통해 정확한 환경(파이썬 버전 및 pip 패키지 포함)을 지정할 수 있으며, Flyte가 이를 처리합니다. asyncio를 활용한 작업의 비동기 실행을 지원하고, 모델을 서비스로 실행·배포하기 위한 파이썬 API와 CLI를 모두 제공합니다(예: FastAPI 사용).

대상 사용자

파이썬 기반 ML 워크플로를 확장해야 하는 ML 엔지니어와 데이터 과학자를 위한 플랫폼으로, 간단한 작업 오케스트레이션부터 모델을 API로 서빙하는 것까지 포괄합니다.

주요 특징

• 순수 파이썬 경험: 파이썬 데코레이터와 네이티브 async 지원을 통해 파이프라인과 에이전트를 오케스트레이션합니다.
• 쿠버네티스‑네이티브: 백엔드 인프라가 쿠버네티스 위에서 분산 멀티노드 서비스로 설계되었습니다.
• 모델 서빙: FastAPI 통합을 통한 모델 API 서빙 기능이 내장되어 있습니다.
• 로컬 개발: 풍부한 로컬 개발 경험을 제공하는 TUI와 호스팅된 브라우저 기반 데모를 포함합니다.