tenstorrent/tt-mlir

何を解決するか

TenstorrentのカスタムAIハードウェア（WormholeやBlackholeなど）に特化した機械学習モデルのコンパイルと最適化を可能にする。高レベルのモデルをハードウェア最適化されたバイナリに効率的に変換できる。

動作方法

LLVMのMLIR（Multi-Level Intermediate Representation）コンパイラインフラストラクチャに基づき、tt-mlirはカスタムダイアレクトと変換パスを定義している。StableHLOなどのフロントエンドダイアレクトからモデルを読み込み、TTNN（Tenstorrent Neural Network）バックエンドをターゲットとするバイナリに変換する。

対象ユーザー

Tenstorrent AIアクセラレータを使用し、特定のハードウェアアーキテクチャ上で最適化されたMLモデルをデプロイする必要がある開発者やエンジニア。

特徴

• 広範なサポート: トレーニングを含む、幅広いAIワークロードをサポートする設計。
• スケーラビリティ: マルチチップシステムにわたるモデルスケーリングを第一級のプリミティブでサポート。
• パフォーマンス: AIモデルの出荷時パフォーマンスを最大化することに注力。
• オープンソース: 開発プロセス全体が公開されている。