NVlabs/kda

Kernel Design Agents (KDA) is a agent-centric workflow to write high-performance CUDA Kernels.

解决的问题

Kernel Design Agents (KDA) 为使用编码代理自动化研究、实现和优化性能敏感的 CUDA 内核提供了一个结构化的工作流程。通过整合研究、验证和迭代优化,简化了创建高性能 GPU 内核的过程。

如何工作

KDA 是一种以代理为中心的工作流程,引导编码代理经历一个特定的生命周期:定义任务契约(目标和约束)、起草计划,并以小规模、可验证的迭代方式实现内核。它利用提示模板和专用的「技能」(如 ncu-report-skillKernelWiki),为代理提供 CUDA 开发所需的特定知识和性能分析工具。

适用人群

专注于 GPU 性能优化和 CUDA 内核开发的开发者和研究人员,特别是针对 NVIDIA B200 和 B300 GPU 的场景。

主要亮点

  • 迭代验证:聚焦于小规模、渐进式变更,并立即进行验证,以确保正确性和性能。
  • 专用技能集成:集成 ncu-report-skill 等工具用于性能分析,以及 KernelWiki 用于领域知识。
  • 以代理为中心的工作流程:提供从任务契约到最终发布的一致性结构化方法,独立于任何单一基准测试框架或硬件目标。
  • 社区愿望清单:维护一个由社区驱动的、需要优化的内核列表。

相关

  • 项目
  • 项目
  • 项目
  • 项目