nv-legate/cupynumeric
End of life; no longer maintained. Final public release: v26.06.01.
解决的问题
解决了将基于 NumPy 的工作流扩展到高性能计算环境的困难。允许用户在 GPU 和分布式系统上运行现有的 NumPy 代码,而无需进行大量代码更改。
工作原理
cuPyNumeric 在 Legate 框架之上实现了 NumPy API,使数组计算能够从单个 CPU 扩展到跨多个节点的数千个 GPU。
适用人群
专为从事大规模数据分析、复杂模拟和机器学习的研究人员和开发者设计,他们需要在多个 GPU 和节点之间扩展计算。
主要亮点
- 实现了面向高性能计算的 NumPy API。
- 可从单个 CPU 扩展到跨多个节点的数千个 GPU。
- 对现有 NumPy 工作流几乎无需代码更改。
- 基于 Legate 框架构建。
相关
- 项目
cupy/cupyCuPy 是一个与 NumPy 和 SciPy 兼容的数组库,可在 NVIDIA CUDA 和 AMD ROCm 平台上为 Python 提供 GPU 加速的数值计算。
- 项目
- 项目
inducer/pycudaPyCUDA 是 Nvidia 的 CUDA API 的 Python 封装,支持 GPU 上的高性能并行计算,具备自动内存管理和 C++ 速度。
- 项目
lupinemachines/lupineLUPINE 是一个基于 Docker 的 GPU-over-IP 桥接器,它将 CUDA 驱动程序调用从仅 CPU 的机器转发到远程 GPU 服务器,让您可以像本地安装了 GPU 一样运行 CUDA 程序(例如 PyTorch、nvidia-smi)。
- 项目
NVIDIA/cudnn-frontendNVIDIA 的 cuDNN Frontend 是一个头文件仅有的 C++ 库,附带 Python 绑定,可简化 cuDNN Graph API 的使用。它提供统一的图抽象、自动调优,以及适用于 Hopper 和 Blackwell GPU 的开源高性能内核(Flash‑Attention、融合 GEMM‑+‑激活、稀疏注意力等),支持 FP16/BF16/FP8。可通过 pip 安装或直接包含头文件,并可直接与 PyTorch 或 CUDA Graph 集成。