accel-sim/accel-sim-framework

解决的问题

Accel-Sim 是一个用于提供 NVIDIA GPU 高精度性能建模的周期级 GPU 模拟器。它解决了每次架构实验或性能分析都需要真实硬件的问题，使开发者和研究人员能够以极高的保真度模拟现代工作负载（包括 LLM 推理和训练），而无需依赖真实硅片。

工作原理

该框架采用基于追踪的方法。首先使用基于 NVBit 的追踪器从 NVIDIA 硬件中捕获真实的 SASS（Shader Assembly）执行。这些追踪数据随后在详细的性能模型（GPGPU-Sim 4.x）与 AccelWattch 功耗模型结合的环境中进行回放。

Accel-Sim 2.0 特别增加了对 NVIDIA Hopper 架构（H100/H200）的支持，能够建模复杂的特性，如 Tensor Memory Accelerator（TMA）、异步 Warp Group MMA（WGMMA）和线程块集群。对于 LLM，它提供了一个 PyTorch 钩子，允许用户仅追踪模型中特定的代表性层（例如在 vLLM 中），而不是追踪整个模型，从而避免计算成本过高。

适用人群

主要面向需要分析 GPU 硬件利用率、能耗以及架构变化对 AI 工作负载影响的计算机架构师、GPU 研究人员和 AI 工程师。

主要亮点

• 高精度： 在超过 34,000 个内核实例上与真实 H100 硅片验证，皮尔逊相关系数达 99%。
• 完整 Hopper 支持： 建模 H100/H200 特有功能，包括 TMA、WGMMA 和 mbarrier 同步。
• LLM 就绪： 原生支持 vLLM 推理和 PyTorch 训练步骤的追踪，无需手动编写内核。
• 功耗建模： 集成 AccelWattch 和 GPUWattch 模型，支持能耗分析。
• 灵活追踪： 支持 SASS 追踪驱动模拟和 PTX 执行驱动模式。