flyteorg/flyte

Dynamic, resilient AI orchestration. Coordinate data, models, and compute as you build AI workflows.

What it solves

Flyte는 ML 파이프라인, 모델 및 에이전트를 대규모로 안정적으로 오케스트레이션하도록 설계되었습니다. 개발자는 순수 파이썬으로 이러한 복잡한 워크플로를 구축하고 배포할 수 있어 로컬 개발에서 프로덕션 급 분산 시스템으로의 전환이 간소화됩니다.

How it works

Flyte는 파이썬 기반 환경 시스템을 사용해 작업과 워크플로를 정의합니다. 사용자는 TaskEnvironment 또는 FastAPIAppEnvironment를 통해 파이썬 버전 및 pip 패키지를 포함한 정확한 환경을 지정할 수 있으며, Flyte가 이를 관리합니다. asyncio를 이용한 작업의 비동기 실행을 지원하고, 파이썬 API와 CLI를 모두 제공하여 모델을 서비스(예: FastAPI)로 실행·제공할 수 있습니다.

Who it’s for

파이썬 기반 ML 워크플로를 확장해야 하는 ML 엔지니어와 데이터 과학자를 위한 플랫폼입니다. 간단한 작업 오케스트레이션부터 모델을 API 형태로 제공하는 것까지 모두 지원합니다.

Highlights

Pure Python Experience: 파이썬 데코레이터와 네이티브 async 지원을 사용해 파이프라인 및 에이전트를 오케스트레이션합니다.
Kubernetes-native: 백엔드 인프라가 쿠버네티스 상의 분산 멀티노드 서비스로 구축되었습니다.
Model Serving: FastAPI 통합을 통해 모델을 API로 제공하는 기능을 내장하고 있습니다.
Local Development: 풍부한 로컬 개발 경험을 제공하는 TUI를 포함하고, 호스팅된 브라우저 기반 데모도 제공합니다.