llnl/Umpire
An application-focused API for memory management on NUMA & GPU architectures
解決的問題
Umpire 解決了在複雜硬體架構中管理記憶體的挑戰，特別是使用多種記憶體裝置（如 GPU 和 NUMA（非均勻記憶體存取）系統）的機器。
工作原理
它作為一個資源管理程式庫，能夠發現、配置和管理這些異質硬體裝置上的記憶體資源。
適用對象
需要在分層且異質的記憶體裝置之間高效協調記憶體的高效能運算應用程式開發者。
主要亮點
- 多種記憶體裝置的資源管理。
- 支援 NUMA 和 GPU 記憶體。
- 記憶體資源的發現與配置。
相關
- 專案
rapidsai/rmmRMM (RAPIDS Memory Manager) is a C++/Python library that provides a unified interface for GPU memory allocation. It offers multiple allocation strategies (plain CUDA, pooled, fixed‑size, managed, etc.), stream‑ordered allocation, and per‑device default resources. Users can install via pip or conda, or build from source, and then use the API to set custom allocators globally or per‑allocation, improving performance of GPU‑centric workloads.
- 專案
- 專案
anderskm/gputil一個使用 nvidia-smi 監控 NVIDIA GPU 狀態並根據記憶體與負載程式化選擇可用 GPU 的 Python 模組
- 專案
- 專案