huggingface/kernels
Build compute kernels and load them from the Hub.
何を解決するか
Python ライブラリやアプリケーションが Hugging Face Hub から最適化された計算カーネルを動的にロードできる方法を提供し、PYTHONPATH を通じた従来の Python パッケージのインストールを回避します。
動作方法
kernels という Python パッケージで、Hub からカーネルをダウンロードして実行できるようにします。開発者向けには、これらのポータブルでバージョン管理されたカーネルを作成するための kernel-builder ツールも含まれています。これらのカーネルは、さまざまな Python バージョン、PyTorch のビルド構成（さまざまな CUDA バージョンや C++ ABIs を含む）、および古い C ライブラリバージョン間でポータブルに動作するように設計されています。
対象ユーザー
- AI 開発者: 複雑なインストールプロセスを管理せずに、アプリケーションに高パフォーマンスの計算カーネルが必要な人。
- カーネル作成者: さまざまな環境で互換性を持つ最適化された計算カーネルを構築・配布したい開発者。
特徴
- 動的ロード: Hugging Face Hub から直接カーネルをロード。
- ポータビリティ: 標準の Python パス外のパスからカーネルをロード可能。
- バージョン管理: 1 つの Python プロセス内で同じカーネルの複数バージョンをロード可能。
- 互換性: 最新の Python バージョンおよびさまざまな PyTorch/CUDA 構成に対応。
関連
- Dispatch
- Dispatch
- Dispatch
- プロジェクト
- Dispatch