llnl/Umpire

An application-focused API for memory management on NUMA & GPU architectures

해결하는 문제

Umpire는 GPU 및 NUMA(비균일 메모리 접근) 시스템과 같은 여러 메모리 장치를 사용하는 복잡한 하드웨어 아키텍처에서 메모리 관리를 다룹니다.

작동 방식

이 라이브러리는 다양한 하드웨어 장치 간에 메모리 리소스를 탐지하고, 할당하며, 관리할 수 있도록 해주는 리소스 관리 라이브러리입니다.

대상 사용자

계층적이고 이질적인 메모리 장치 간에 효율적으로 메모리를 조율해야 하는 고성능 컴퓨팅 애플리케이션을 개발하는 개발자들입니다.

주요 특징

  • 여러 메모리 장치에 대한 리소스 관리.
  • NUMA 및 GPU 메모리 지원.
  • 메모리 리소스의 탐지 및 할당.

관련

  • 프로젝트
    rapidsai/rmm

    RMM (RAPIDS Memory Manager) is a C++/Python library that provides a unified interface for GPU memory allocation. It offers multiple allocation strategies (plain CUDA, pooled, fixed‑size, managed, etc.), stream‑ordered allocation, and per‑device default resources. Users can install via pip or conda, or build from source, and then use the API to set custom allocators globally or per‑allocation, improving performance of GPU‑centric workloads.

  • 프로젝트
    nv-legate/cupynumeric

    Legate 프레임워크 위에 NumPy API를 구현한 고성능 배열 계산 라이브러리로, 수천 개의 GPU로 워크플로우를 확장할 수 있습니다.

  • 프로젝트
    anderskm/gputil

    nvidia-smi를 사용하여 NVIDIA GPU 상태를 모니터링하고 메모리 및 부하 기반으로 사용 가능한 GPU를 프로그래밍 방식으로 선택하는 파이썬 모듈

  • 프로젝트
    Traverse-Research/gpu-allocator

    Vulkan, DirectX 12, Metal에서 일관된 인터페이스를 제공하는 Rust 네이티브 GPU 메모리 할당기입니다.

  • 프로젝트
    Project-HAMi/HAMi-core

    애플리케이션 또는 드라이버를 수정하지 않고 컨테이너 내 CUDA 호출을 가로채어 각 컨테이너의 메모리 및 계산 활용도 제한을 강제하는 GPU 리소스 컨트롤러입니다.