llvm/torch-mlir

해결하는 문제

하드웨어 벤더가 PyTorch를 지원하려는 경우 발생하는 소프트웨어 분열과 높은 개발 비용 문제를 해결합니다. 각 벤더가 자체 커스텀 프론트엔드를 구축하여 PyTorch 모델을 하드웨어가 이해하는 형식으로 변환하는 대신, 이 프로젝트는 MLIR 생태계로의 표준화된 컴파일러 브리지를 제공합니다.

작동 방식

Torch-MLIR는 PyTorch 모델을 Torch-MLIR Dialect로 낮추는 중간 계층 역할을 합니다. 이 과정의 주요 진입점은 ONNX와 Fx입니다. MLIR 생태계로 이동한 후, 이러한 모델은 하류 컴파일러에 의해 특정 타겟 하드웨어로 더 쉽게 매핑될 수 있습니다.

대상 사용자

주로 PyTorch 프론트엔드를 완전히 새로 구현하지 않고도 시스템에 PyTorch 지원을 통합해야 하는 컴파일러 개발자 및 하드웨어 벤더를 위한 것입니다.

주요 특징

• PyTorch에서 MLIR로의 일급 컴파일러 지원 제공.
• ONNX 및 Fx를 포함한 다수의 진입 경로 지원.
• 하드웨어 벤더가 반복적인 커스텀 낮추기 작업을 줄일 수 있도록 함.
• IREE 및 Blade와 같은 하류 프로젝트와 통합 가능.