astra-sim/astra-sim
ASTRA-sim2.0: Modeling Hierarchical Networks and Disaggregated Systems for Large-model Training at Scale
解決的問題
ASTRA-sim 透過提供模擬整個軟體與硬體堆疊的方法，解決了設計與部署下一代分散式 AI 系統的複雜性。這讓開發人員與架構師無需實體硬體，即可測試工作負載排程、通訊演算法與硬體架構的不同配置。
運作方式
它作為一個分散式 AI 系統模擬器，同時模擬運算、記憶體、網路硬體以及軟體層。它使用一套 API，允許使用者插入外部開放或專有的元件來模擬系統的特定部分。該模擬器接受 MLCommons Chakra Execution Traces 作為工作負載層的輸入。
目標對象
專為致力於設計與部署大規模分散式 AI 系統的研究人員與工程師所設計。
特色亮點
- AI 系統的端到端多保真度模擬。
- 模擬從工作負載排程到硬體架構的全堆疊。
- 支援外部元件的隨插即用 API。
- 與 MLCommons Chakra Execution Traces 整合。
相關
- 專案
- 專案
- 專案
- 專案