astra-sim/astra-sim
ASTRA-sim2.0: Modeling Hierarchical Networks and Disaggregated Systems for Large-model Training at Scale
解决的问题
ASTRA-sim 通过提供模拟整个软件与硬件堆栈的方法，解决了设计与部署下一代分布式 AI 系统的复杂性。这让开发人员与架构师无需实体硬件，即可测试工作负载调度、通信算法与硬件架构的不同配置。
运作方式
它作为一个分布式 AI 系统模拟器，同时模拟计算、内存、网络硬件以及软件层。它使用一套 API，允许用户插入外部开放或专有的组件来模拟系统的特定部分。该模拟器接受 MLCommons Chakra Execution Traces 作为工作负载层的输入。
目标对象
专为致力于设计与部署大规模分布式 AI 系统的研究人员与工程师所设计。
特色亮点
- AI 系统的端到端多保真度模拟。
- 模拟从工作负载调度到硬件架构的全堆栈。
- 支持外部组件的即插即用 API。
- 与 MLCommons Chakra Execution Traces 集成。
相关
- 项目
- 项目
- 项目
- 项目