NVIDIA/cutile-python

解决的问题

cuTile Python 提供了一种使用 Python 编写高性能 GPU 内核的方法，使开发者无需编写低级别的 CUDA C++ 代码，即可在 NVIDIA GPU 上表达并行计算。

工作原理

它作为 NVIDIA GPU 的编程语言，基于 Tile IR（中间表示）生成内核。用户可以使用 @ct.kernel 装饰器定义内核，并通过在数据块上使用 load 和 store 操作来管理不同内存层级之间的数据移动。

适用人群

希望为高性能计算和 AI 工作负载编程 NVIDIA GPU 的开发者，特别是使用 Blackwell、Ampere 或 Ada GPU 架构的用户。

主要亮点

• 基于 Python 的 GPU 编程：直接在 Python 中编写 GPU 内核。
• 基于 Tile 的内存管理：显式控制数据块的加载和存储，以实现性能优化。
• 与 Tile IR 集成：利用 Tile IR 生成高效的 GPU 内核。
• 实验性自动调优：包含一个用于自动调优内核启动的实验性包。