llnl/Umpire
An application-focused API for memory management on NUMA & GPU architectures
何を解決するか
Umpireは、GPUやNUMA（非一様メモリアクセス）システムなど、複数のメモリデバイスを搭載した複雑なハードウェアアーキテクチャにおけるメモリ管理の課題に対処します。
動作方法
複数の異なるハードウェアデバイスにまたがるメモリリソースの発見、プロビジョニング、管理を可能にするリソース管理ライブラリとして機能します。
対象ユーザー
階層的かつ異種のメモリデバイス間で効率的にメモリを調整する必要があるハイパフォーマンスコンピューティングアプリケーションを開発する開発者です。
特徴
- 複数のメモリデバイスに対するリソース管理。
- NUMAおよびGPUメモリのサポート。
- メモリリソースの発見とプロビジョニング。
関連
- プロジェクト
rapidsai/rmmNVIDIA RMM (RAPIDS Memory Manager) は、柔軟で高性能な GPU メモリ割り当てを提供する C++/Python ライブラリです。複数の割り当て戦略（plain、pooled、managed、binning）、ストリーム順序付き割り当て、デバイスごとのデフォルトリソース、および容易な CMake/Python 統合を提供し、GPU 中心的なワークロードにおいて `cudaMalloc`/`cudaFree` の繰り返しによるオーバーヘッドを回避するのに役立ちます。
- プロジェクト
- プロジェクト
anderskm/gputilnvidia-smiを使用してNVIDIA GPUの状態を監視し、メモリと負荷に基づいて利用可能なGPUをプログラムで選択するPythonモジュール
- プロジェクト
- プロジェクト
Project-HAMi/HAMi-coreアプリケーションやドライバーを変更せずに、コンテナ内での CUDA 呼び出しをインターセプトし、各コンテナのメモリおよび計算利用量の制限を強制する GPU リソースコントローラー。