tenstorrent/tt-mlir

해결하는 문제

Tenstorrent의 커스텀 AI 하드웨어(Wormhole 및 Blackhole 등)에 특화된 기계학습 모델의 컴파일과 최적화를 가능하게 하여, 고수준 모델이 하드웨어 최적화된 바이너리로 효율적으로 변환될 수 있도록 보장합니다.

작동 방식

LLVM의 MLIR(Multi-Level Intermediate Representation) 컴파일러 인프라를 기반으로 하며, tt-mlir는 사용자 정의 다이얼렉트와 변환 패스를 정의합니다. StableHLO와 같은 프론트엔드 다이얼렉트에서 모델을 읽어 TTNN(Tenstorrent Neural Network) 백엔드를 타겟으로 하는 바이너리로 변환합니다.

대상 사용자

Tenstorrent AI 가속기에서 최적화된 ML 모델을 배포해야 하는 개발자 및 엔지니어.

주요 특징

• 광범위한 지원: 학습을 포함한 다양한 AI 워크로드를 지원하도록 설계됨.
• 확장성: 멀티칩 시스템에 걸쳐 모델을 확장하기 위한 1등급의 기본 구조를 포함.
• 성능: AI 모델의 초기 성능을 극대화하는 데 중점을 둠.
• 오픈소스: 전체 개발 과정이 공개되어 있음.