NVlabs/kda

해결하는 문제

Kernel Design Agents (KDA)는 성능에 민감한 CUDA 커널의 연구, 구현, 최적화를 자동화하기 위해 코딩 에이전트를 사용하는 구조화된 워크플로우를 제공합니다. 연구, 검증, 반복적 개선을 통합함으로써 고성능 GPU 커널을 만드는 과정을 간소화합니다.

작동 방식

KDA는 코딩 에이전트가 특정 라이프사이클을 거치도록 안내하는 에이전트 중심의 워크플로우입니다: 작업 계약(목표 및 제약 조건) 정의, 계획 초안 작성, 그리고 작은 검증된 반복 단계로 커널 구현. 프롬프트 템플릿과 특수한 '스킬'(예: ncu-report-skill, KernelWiki)을 활용하여 CUDA 개발에 필요한 에이전트 전용 지식과 프로파일링 도구를 제공합니다.

대상 사용자

NVIDIA B200 및 B300 GPU를 타겟으로 하는 GPU 성능 최적화 및 CUDA 커널 개발에 집중하는 개발자 및 연구자.

주요 특징

• 반복적 검증: 작은 단계적 변경에 초점을 맞추고 즉시 검증하여 정확성과 성능을 보장.
• 특화된 스킬 통합: ncu-report-skill를 통한 프로파일링과 KernelWiki를 통한 도메인 지식 통합.
• 에이전트 중심 워크플로우: 특정 벤치마크 허브나 하드웨어 타겟에 종속되지 않는 구조화된 접근 방식(작업 계약에서 최종 승격까지).
• 커뮤니티 희망 목록: 최적화가 필요한 커널에 대한 커뮤니티 주도의 목록을 유지.