openxla/stablehlo

해결하는 문제

StableHLO는 서로 다른 머신러닝 프레임워크(PyTorch, TensorFlow, JAX 등)와 이를 하드웨어에 최적화하는 컴파일러(XLA, IREE 등) 사이의 호환성 문제를 해결하는 이식성 레이어입니다. 이를 통해 하나의 프레임워크에서 생성된 모델이 모든 조합에 대해 다시 작성할 필요 없이 다양한 컴파일러에서 안정적으로 사용될 수 있도록 보장합니다.

작동 방식

ML 모델을 위한 표준화된 고수준 연산(HLO) 세트를 제공합니다. MLIR (Multi-Level Intermediate Representation) dialect를 기반으로 하며, MHLO dialect에 직렬화 및 버전 관리 기능을 강화합니다. MLIR 바이트코드를 직렬화 형식으로 사용하여 하위 및 상위 호환성을 보장하며, 프레임워크와 컴파일러가 안정적이고 버전이 지정된 인터페이스를 사용하여 통신할 수 있도록 합니다.

대상

이 프로젝트는 XLA 및 IREE와 같은 컴파일러를 통해 다양한 하드웨어에서 실행 가능한 상호 운용 가능한 모델을 생성해야 하는 ML 컴파일러 엔지니어 및 프레임워크 개발자, 또는 Google AI Edge를 통해 온디바이스로 모델을 배포하려는 개발자를 위한 것입니다.

주요 특징

• 상호 운용성: JAX, PyTorch, TensorFlow와 같은 프레임워크 간의 격차를 해소하여 개발을 단순화합니다.
• 버전 관리된 안정성: MLIR 바이트코드를 사용하여 연산 세트가 진화함에 따라 프로그램의 호환성이 유지되도록 합니다.
• 광범위한 호환성: XLA 및 IREE와 같은 ML 컴파일러와 호환됩니다.
• 변환 도구: StableHLO 프로그램(가중치 및 편향 포함)을 TensorFlow SavedModels로 변환하는 도구를 포함합니다.