deepspeedai/DeepSpeedExamples

What it solves

このリポジトリは、大規模な AI モデル開発に DeepSpeed ライブラリを活用するための、実践的な実装例とベンチマークを集約しています。

How it works

トレーニングとファインチューニング、高性能推論（DeepSpeed-MII および FastGen 経由）、モデル圧縮、エンドツーエンドのアプリケーション、およびパフォーマンスベンチマークの 5 つの主要領域にわたって、さまざまなリファレンス実装を整理しています。

Who it’s for

DeepSpeed を使用して大規模モデルをトレーニング、最適化、またはデプロイする開発者や研究者で、これらの機能を実装するための具体的な例を必要としている方。

Highlights

• トレーニングとファインチューニングの両方に対応する包括的な例。
• DeepSpeed-MII、FastGen、および Hugging Face との統合のための専用の推論パス。
• モデル圧縮とパフォーマンスベンチマークのリソース。