deepspeedai/DeepSpeedExamples

What it solves

這份儲存庫提供了一個集中化的實用實作與基準測試集合，幫助使用者利用 DeepSpeed 函式庫進行大規模 AI 模型開發。

How it works

它在五個關鍵領域組織了各種參考實作：訓練與微調、高效能推論（透過 DeepSpeed-MII 和 FastGen）、模型壓縮、端到端應用程式以及效能基準測試。

Who it’s for

使用 DeepSpeed 進行大型模型訓練、優化或部署的開發者與研究人員，且需要具體的實作範例。

Highlights

• 訓練與微調的全面範例。
• 針對 DeepSpeed-MII、FastGen 和 Hugging Face 整合的專用推論路徑。
• 模型壓縮與效能基準測試的資源。