NVIDIA/cutile-python

何を解決するか

cuTile Pythonは、Pythonを使用して高性能GPUカーネルを記述する方法を提供し、低レベルのCUDA C++コードを書く必要なく、NVIDIA GPU上で並列計算を表現できるようにします。

動作方法

Tile IR（中間表現）に基づいてカーネルを生成するNVIDIA GPU用のプログラミング言語として機能します。@ct.kernelデコレータを使用してカーネルを定義し、データのタイルを用いたloadおよびstore操作でメモリ階層間のデータ移動を管理できます。

対象ユーザー

Blackwell、Ampere、Ada GPUアーキテクチャを使用する高パフォーマンスコンピューティングおよびAIワークロード向けにNVIDIA GPUをプログラミングしたい開発者。

特徴

• PythonベースのGPUプログラミング: Pythonで直接GPUカーネルを記述可能。
• タイルベースのメモリ管理: パフォーマンス最適化のためのデータタイルの読み込み・書き込みを明示的に制御。
• Tile IR統合: タイルIRを活用して効率的なGPUカーネルを生成。
• 実験的オートチューニング: カーネル起動のオートチューニングを実験的にサポートするパッケージを含む。