llnl/Umpire
An application-focused API for memory management on NUMA & GPU architectures
解决的问题
Umpire 解决了在复杂硬件架构中管理内存的挑战，特别是使用多种内存设备（如 GPU 和 NUMA（非统一内存访问）系统）的机器。
工作原理
它作为一个资源管理库，能够发现、分配和管理这些异构硬件设备上的内存资源。
适用人群
需要在分层且异构的内存设备之间高效协调内存的高性能计算应用程序开发者。
主要亮点
- 多种内存设备的资源管理。
- 支持 NUMA 和 GPU 内存。
- 内存资源的发现与分配。
相关
- 项目
rapidsai/rmmRMM (RAPIDS Memory Manager) is a C++/Python library that provides a unified interface for GPU memory allocation. It offers multiple allocation strategies (plain CUDA, pooled, fixed‑size, managed, etc.), stream‑ordered allocation, and per‑device default resources. Users can install via pip or conda, or build from source, and then use the API to set custom allocators globally or per‑allocation, improving performance of GPU‑centric workloads.
- 项目
- 项目
anderskm/gputil一个使用 nvidia-smi 监控 NVIDIA GPU 状态并基于内存和负载程序化选择可用 GPU 的 Python 模块
- 项目
- 项目