tenstorrent/tt-mlir

解決的問題

提供一種專為 Tenstorrent 的客製化 AI 硬體（例如 Wormhole 和 Blackhole）設計的機器學習模型編譯與最佳化方法，確保高階模型能有效轉換為硬體最佳化的二進位檔。

運作方式

基於 LLVM 的 MLIR（多層次中間表示）編譯器基礎架構，tt-mlir 定義了自訂的方言與轉換流程。它將來自前端方言（如 StableHLO）的模型轉換為針對 TTNN（Tenstorrent 神經網路）後端的目標二進位檔。

適用對象

需要在 Tenstorrent AI 加速器上部署最佳化機器學習模型的開發者與工程師。

主要亮點

• 廣泛支援：專為支援多種 AI 工作負載（包含訓練）而設計。
• 可擴展性：內建用於跨多晶片系統擴展模型的一流原語。
• 高效能：專注於為 AI 模型提供開箱即用的高效率表現。
• 開源：整個開發過程完全公開。