tile-ai/tilelang-puzzles
Learning TileLang with 10 puzzles!
解决的问题
编写高性能深度学习算子非常困难。TileLang 是一种能够提供帮助的领域特定语言,但从零开始学习它的门槛很高。这些谜题为你提供了一条引导路径:你从简单的示例开始,逐步构建到 GEMM(矩阵乘法)和 FlashAttention 等现代算子,从而在实践中理解 TileLang 的设计原则。
工作原理
你安装 TileLang 及其依赖项,然后运行脚本以检查设置是否正确。该项目包含 10 个谜题,每个谜题都是 puzzles/ 目录下的一个独立 Python 脚本。每个谜题都要求你实现一个算子;ans/ 目录中提供了参考解决方案,以便你对比自己的工作。你只需并排运行谜题脚本和答案脚本即可。
适用人群
了解深度学习基础知识并希望编写快速 GPU 算子的程序员,特别是那些想要专门学习 TileLang 的人。对于喜欢通过解决渐进式挑战来学习的人来说,它也非常有用。
亮点
- 10 个渐进式谜题,从简单的复制操作到 GEMM 和 FlashAttention
- 每个谜题都包含参考实现
- 受 Triton Puzzles、Triton Puzzles Lite 和 LeetGPU 启发
- 包含一个环境检查脚本,用于验证你的 TileLang 和 GPU 设置
相关
- 项目
- 项目
- 项目
- 项目