kompute: 一个面向不同显卡品牌实现高性能加速的跨厂商 GPU 计算框架

它解决了什么问题

Kompute 是一个通用 GPU 计算框架，旨在为显卡（包括 AMD、Qualcomm、NVIDIA 等）提供跨厂商的兼容性。它简化了编写 GPU 加速应用程序的过程，特别是在机器学习和数据处理方面，且不会被锁定在单一厂商的专有生态系统中。

工作原理

Kompute 构建在 Vulkan API 之上，采用“自带 Vulkan”的设计，使其能够与现有的 Vulkan 应用程序无缝集成。它提供了一个 C++ SDK 和一个 Python 模块用于管理 GPU 资源。该框架使用 Manager 来编排设备组件，使用 Tensors 处理结构化数据，并使用 Algorithms（基于着色器）在 GPU 上执行逻辑。它通过 GPU 家族队列支持异步和并行处理，并为主机和 GPU 内存提供显式内存管理。

适用人群

它适用于需要在不同硬件厂商之间实现高性能 GPU 加速的开发者，包括构建机器学习模型、移动端应用（通过 Android NDK）以及游戏开发人员（例如使用 Godot Engine）的人员。

亮点

• 跨厂商支持：支持 AMD、NVIDIA 和 Qualcomm GPU。
• 移动端支持：针对移动环境进行了优化，并支持 Android NDK。
• 灵活的接口：既提供用于优化的低级 C++ SDK，也提供用于快速实验的高级 Python 包。
• 异步执行：支持跨多个 GPU 队列的并行操作。
• ** 行业支持**：由 LF AI & Data Foundation 托管的项目。