openxla/stablehlo

解決的問題

StableHLO 是一個可移植層，解決了不同的機器學習框架（如 PyTorch、TensorFlow 和 JAX）與為硬體優化它們的編譯器（如 XLA 和 IREE）之間的不相容問題。它確保由一個框架生成的模型可以可靠地被各種編譯器使用，而無需為每一種組合重新編寫代碼。

工作原理

它為 ML 模型提供了一套標準的高層操作 (HLO)。基於 MLIR (Multi-Level Intermediate Representation) 方言，它透過序列化與版本控制增強了 MHLO 方言。透過使用 MLIR 位元組碼作為序列化格式，它提供了向後與向前相容性的保證，允許框架與編譯器使用穩定且版本化的介面進行通訊。

適用對象

本專案面向需要建立可透過 XLA 與 IREE 等編譯器在各種硬體上運行的互操作模型之 ML 編譯器工程師與框架開發人員，也面向透過 Google AI Edge 在裝置上部署模型的人員。

亮點

• 互操作性：透過彌合 JAX、PyTorch 與 TensorFlow 等框架之間的鴻溝來簡化開發。
• 版本化穩定性：使用 MLIR 位元組碼，確保隨著操作集的演進，程式仍保持相容性。
• 廣泛的相容性：與 XLA 與 IREE 等 ML 編譯器相容。
• 轉換工具：包括將 StableHLO 程式（包含權重與偏置）轉換為 TensorFlow SavedModels 的工具。