ml-energy/zeus

何を解決するか

Zeusは、深層学習ワークロードのエネルギー消費に関する可視性の欠如に対処します。AIモデルの学習や実行に使用されるハードウェアの電力使用量を正確に測定・最適化するためのツールを提供し、開発者がAIの環境への影響や運用コストを削減できるように支援します。

動作方法

Zeusはライブラリとデーモン（zeusd）として動作し、さまざまなハードウェアデバイスの複雑さを抽象化します。エネルギー監視用のプログラムインターフェースとCLIを提供するとともに、時間とエネルギーの最適化ツールのコレクションを備え、効率を向上させます。CPU、DRAM、AMD GPU、NVIDIA GPU、Apple Silicon、NVIDIA Jetsonなど、幅広いプラットフォームをサポートしています。

対象ユーザー

モデルのエネルギーインパクトを追跡し、トレーニングや推論パイプラインのエネルギー効率を最適化したい機械学習エンジニア、研究者、サステナビリティ志向のAI開発者向けです。

主な特徴

• 広範なハードウェア対応: NVIDIA GPU、AMD GPU、Apple Silicon、CPU、DRAMをサポート。
• PyTorchエコシステムプロジェクト: PyTorchエコシステムの公式メンバーとして認定されています。
• 統合された最適化: 大規模モデルトレーニング向けのPerseus最適化ツールを含む。
• エージェント対応: AIコーディングエージェントがエネルギー測定を自動化できるポータブル「エージェントスキル」を提供。
• 研究に基づく: NSDI、SOSP、NeurIPSの複数の査読付き論文に基づいています。