accel-sim/accel-sim-framework

Accel‑Sim 2.0 – 面向现代AI工作负载的周期级GPU模拟

它是什么 – Accel‑Sim是一个开源框架，让研究人员能够在NVIDIA硬件上追踪真实的GPU执行（SASS汇编），然后在详细的周期精确模拟器（GPGPU‑Sim 4.x）以及AccelWattch功耗模型上重放这些追踪。2.0版本增加了对最新Hopper GPU（H100/H200）的全面支持，包括新指令、内存子系统特性以及“GPUVision”性能分析前端。

为什么对AI重要 – 该模拟器可以端到端地对LLM推理和训练流水线（vLLM、PyTorch）进行建模，无需手写内核。作者报告在超过34,000个内核上与真实H100硬件实现了99%的Pearson相关，这使得对大规模Transformer模型的性能和功耗估计具有可信度。

主要组件

• 追踪器 – 基于NVBit的插桩工具，在真实GPU上记录SASS执行。现在支持压缩的.tracez文件和针对PyTorch/vLLM的逐层钩子。
• SASS前端/模拟引擎 – GPGPU‑Sim 4.x以及Hopper特定的微架构模型（TMA、WGMMA、mbarrier、线程块簇、支持小芯片的L2、HBM3/e时序）。
• 相关工具（GPUVision） – 将模拟的周期、指令数和内存统计与Nsight Compute数据进行比较的工具。
• 调优器 – 用于探索配置参数和校准模型的脚本。
• AccelWattch – 集成的功耗模型，在性能的同时估算能耗。

典型工作流程

1. 构建 – 构建模拟器（CMake和Python依赖）。
2. 追踪 – 使用提供的NVBit脚本（或针对LLM层的torch钩子）在真实GPU上追踪应用程序。
3. 后处理 – 将原始追踪转换为压缩的.tracez格式。
4. 运行 – 通过run_simulations.py启动管理器，使用Hopper配置（H100‑SASS、H200‑SASS等）运行模拟器。
5. 分析 – 使用内置监控、get_stats.py和可选的绘图脚本分析结果。

快速入门 – 仓库附带基于nvidia/cuda:12.8.0‑cudnn‑devel‑ubuntu24.04的Docker镜像。拉取镜像后，按照“快速入门”部分构建模拟器，从配套的gpu‑app‑collection中追踪基准测试，并通过几个命令运行模拟。

预收集追踪 – 对于无法访问NVIDIA GPU的用户，该版本包含热门模型（BERT、ResNet‑50、SDXL、Llama 3.1 8B等）的现成Hopper追踪。使用get-accel-sim-traces.py下载，然后直接模拟。

路线图 – 未来的工作包括对下一代Blackwell GPU和多GPU/NVLink配置的实验性支持。

谁应该使用 – 需要针对新Hopper功能或大规模LLM工作负载获得准确、验证过的性能或能耗估算的GPU架构师、性能研究人员和AI系统设计人员。