iree-org/iree

A retargetable MLIR-based machine learning compiler and runtime toolkit.

해결하는 문제

IREE는 다양한 하드웨어에서 기계학습 모델 배포를 단순화합니다. 대규모 데이터 센터부터 자원 제약이 있는 모바일 및 엣지 디바이스에 이르기까지 기계학습 모델을 효율적으로 작동시키는 문제를 해결합니다.

작동 방식

IREE는 MLIR(Multi-Level Intermediate Representation) 기반의 엔드투엔드 컴파일러 및 런타임입니다. ML 모델을 통합된 중간 표현(IR)으로 낮추어 다양한 하드웨어 타겟에서 최적화하고 실행할 수 있도록 합니다.

대상 사용자

데이터 센터, 모바일 장치, 엣지 배포를 포함한 다양한 하드웨어 환경에 ML 모델을 배포해야 하는 개발자 및 엔지니어를 위한 것입니다.

주요 특징

  • MLIR 기반의 컴파일러 및 런타임 아키텍처.
  • 플랫폼 간 배포를 위한 통합 IR.
  • 데이터 센터 규모에서 모바일 및 엣지 제약까지 확장 가능.
  • LF AI & Data Foundation의 일부.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트