astra-sim/astra-sim

해결하는 문제

ASTRA-sim은 전체 소프트웨어 및 하드웨어 스택을 시뮬레이션하는 방법을 제공하여 차세대 분산 AI 시스템 설계 및 배포의 복잡성을 해결합니다. 이를 통해 개발자와 아키텍트는 물리적 하드웨어 없이도 워크로드 스케줄링, 통신 알고리즘 및 하드웨어 아키텍처의 다양한 구성을 테스트할 수 있습니다.

작동 방식

컴퓨팅, 메모리, 네트워크 하드웨어와 소프트웨어 계층을 함께 모델링하는 분산 AI 시스템 시뮬레이터로 작동합니다. 사용자가 외부 오픈 소스 또는 독점 구성 요소를 연결하여 시스템의 특정 부분을 모델링할 수 있는 API 제품군을 사용합니다. 이 시뮬레이터는 워크로드 계층의 입력으로 MLCommons Chakra Execution Traces를 허용합니다.

대상 사용자

대규모 분산 AI 시스템의 설계 및 배포를 연구하는 연구원 및 엔지니어를 위해 설계되었습니다.

주요 특징

• AI 시스템의 엔드투엔드 다중 충실도(multi-fidelity) 시뮬레이션.
• 워크로드 스케줄링부터 하드웨어 아키텍처까지 전체 스택 모델링.
• 외부 구성 요소를 위한 플러그 앤 플레이 API 지원.
• MLCommons Chakra Execution Traces와의 통합.