NVIDIA/cutile-python

해결하는 문제

cuTile Python은 Python을 사용하여 고성능 GPU 커널을 작성할 수 있는 방법을 제공하며, 저수준 CUDA C++ 코드를 작성할 필요 없이 NVIDIA GPU에서 병렬 계산을 표현할 수 있게 해줍니다.

작동 방식

Tile IR(중간 표현) 기반으로 커널을 생성하는 NVIDIA GPU용 프로그래밍 언어로 작동합니다. @ct.kernel 데코레이터를 사용하여 커널을 정의하고, 데이터 타일의 load 및 store 연산을 통해 메모리 계층 간 데이터 이동을 관리할 수 있습니다.

대상 사용자

Blackwell, Ampere, Ada GPU 아키텍처를 사용하는 고성능 컴퓨팅 및 AI 워크로드를 위한 NVIDIA GPU 프로그래밍을 원하는 개발자들.

주요 특징

• Python 기반 GPU 프로그래밍: Python으로 직접 GPU 커널을 작성할 수 있습니다.
• 타일 기반 메모리 관리: 성능 최적화를 위해 데이터 타일의 로드 및 스토어를 명시적으로 제어합니다.
• Tile IR 통합: Tile IR을 활용하여 효율적인 GPU 커널을 생성합니다.
• 실험적 오토튜닝: 커널 실행을 위한 실험적 오토튜닝 패키지를 포함합니다.