llnl/Umpire

An application-focused API for memory management on NUMA & GPU architectures

何を解決するか

Umpireは、GPUやNUMA（非一様メモリアクセス）システムなど、複数のメモリデバイスを搭載した複雑なハードウェアアーキテクチャにおけるメモリ管理の課題に対処します。

動作方法

複数の異なるハードウェアデバイスにまたがるメモリリソースの発見、プロビジョニング、管理を可能にするリソース管理ライブラリとして機能します。

対象ユーザー

階層的かつ異種のメモリデバイス間で効率的にメモリを調整する必要があるハイパフォーマンスコンピューティングアプリケーションを開発する開発者です。

特徴

  • 複数のメモリデバイスに対するリソース管理。
  • NUMAおよびGPUメモリのサポート。
  • メモリリソースの発見とプロビジョニング。

関連

  • プロジェクト
    rapidsai/rmm

    RMM (RAPIDS Memory Manager) is a C++/Python library that provides a unified interface for GPU memory allocation. It offers multiple allocation strategies (plain CUDA, pooled, fixed‑size, managed, etc.), stream‑ordered allocation, and per‑device default resources. Users can install via pip or conda, or build from source, and then use the API to set custom allocators globally or per‑allocation, improving performance of GPU‑centric workloads.

  • プロジェクト
    nv-legate/cupynumeric

    Legateフレームワークの上にNumPy APIを実装した高性能配列計算ライブラリ。数千のGPUにスケーリング可能なワークフローを実現します。

  • プロジェクト
    anderskm/gputil

    nvidia-smiを使用してNVIDIA GPUの状態を監視し、メモリと負荷に基づいて利用可能なGPUをプログラムで選択するPythonモジュール

  • プロジェクト
    Traverse-Research/gpu-allocator

    Vulkan、DirectX 12、Metalの各APIで一貫したインターフェースを提供する、RustネイティブなGPUメモリアロケータです。

  • プロジェクト
    Project-HAMi/HAMi-core

    アプリケーションやドライバーを変更せずに、コンテナ内での CUDA 呼び出しをインターセプトし、各コンテナのメモリおよび計算利用量の制限を強制する GPU リソースコントローラー。