kompute: さまざまなグラフィックスカードブランド間で高性能アクセラレーションを実現するクロスベンダーGPUコンピューティングフレームワーク

何を解決するか

Komputeは、グラフィックスカード（AMD、Qualcomm、NVIDIA、その他を含む）に対してクロスベンダーの互換性を提供するために設計された汎用GPUコンピューティングフレームワークです。特定のベンダーの独自の生態系に縛られることなく、特に機械学習やデータ処理のためのGPUアクセラレーションを伴うアプリケーションの作成プロセスを簡素化します。

仕組み

KomputeはVulkan APIの上に構築されており、「Bring-your-own-Vulkan」設計を採用することで、既存のVulkanアプリケーションとシームレスに統合できます。GPUリソースを管理するために、C++ SDKとPythonモジュールを提供します。このフレームワークは、デバイスコンポーネントをオーケストレートするManager、構造化データのためのTensors、そしてGPU上でロジックを実行するためのAlgorithms（シェーダーに基づく）を使用します。GPUファミリーキューを通じて非同期および並列処理をサポートし、ホストおよびGPUメモリの両方に対して明示的なメモリ管理を提供します。

対象ユーザー

機械学習モデルの構築、モバイルアプリケーション（Android NDK経由）、およびゲーム開発者（例：Godot Engineを使用）を含む、異なるハードウェアベンダー間で高性能なGPUアクセラレーションを必要とする開発者を対象としています。

ハイライト

• クロスベンダーサポート: AMD、NVIDIA、およびQualcommのGPUで動作します。
• モバイル対応: Android NDKサポートにより、モバイル環境向けに最適化されています。
• 柔軟なインターフェース: 最適化のための低レベルC++ SDKと、迅速な実験のための高レベルPythonパッケージの両方を提供します。
• 非同期実行: 複数のGPUキューにわたる並列操作をサポートします。
• 業界の支援: LF AI & Data Foundationによってホストされているプロジェクトです。