astra-sim/astra-sim

解決する課題

ASTRA-simは、ソフトウェアとハードウェアのスタック全体をシミュレートする方法を提供することで、次世代の分散AIシステムの設計と展開における複雑な課題に対処します。これにより、開発者やアーキテクトは、物理的なハードウェアを必要とせずに、ワークロードスケジューリング、通信アルゴリズム、ハードウェアアーキテクチャのさまざまな構成をテストできます。

仕組み

計算、メモリ、ネットワークハードウェアとソフトウェア層をモデル化する分散AIシステムシミュレーターとして機能します。ユーザーが外部のオープンソースまたはプロプライエタリなコンポーネントをプラグインしてシステムの特定のパーツをモデル化できるAPIスイートを使用します。このシミュレーターは、ワークロード層の入力としてMLCommons Chakra Execution Tracesを受け入れます。

対象ユーザー

大規模な分散AIシステムの設計と展開に取り組む研究者やエンジニア向けに設計されています。

ハイライト

• AIシステムのエンドツーエンドのマルチフィデリティシミュレーション。
• ワークロードスケジューリングからハードウェアアーキテクチャまでのフルスタックをモデル化。
• 外部コンポーネント向けのプラグアンドプレイAPIサポート。
• MLCommons Chakra Execution Tracesとの統合。