huggingface/kernels
Build compute kernels and load them from the Hub.
解決的問題
它為 Python 套件與應用程式提供了一種直接從 Hugging Face Hub 動態載入最佳化計算內核的方法，無需透過 PYTHONPATH 進行傳統的 Python 套件安裝。
作用方式
此專案包含一個名為 kernels 的 Python 套件，讓使用者可從 Hub 下載並執行內核。對於開發者，還包含一個 kernel-builder 工具，用於建立這些可移植且具版本控制的內核。這些內核設計為可在不同 Python 版本、PyTorch 編譯設定（包含各種 CUDA 版本與 C++ ABIs）以及較舊的 C 套件版本之間跨平台運作。
適用對象
- AI 開發者：需要為應用程式提供高效率計算內核，但又不願管理複雜安裝流程的人。
- 內核作者：希望建立並分發可在各種環境中相容的最佳化計算內核的開發者。
主要特色
- 動態載入：直接從 Hugging Face Hub 載入內核。
- 可移植性：可從標準 Python 路徑以外的路徑載入內核。
- 版本控制：支援在單一 Python 進程中載入同一內核的多個版本。
- 相容性：廣泛支援最新 Python 版本以及各種 PyTorch/CUDA 設定。
相關
- Dispatch
- Dispatch
- Dispatch
- 專案
- Dispatch