deepspeedai/DeepSpeedExamples

What it solves

该仓库提供了一个集中化的实用实现和基准测试集合，帮助用户利用 DeepSpeed 库进行大规模 AI 模型开发。

How it works

它在五个关键领域组织了各种参考实现：训练和微调、高性能推理（通过 DeepSpeed-MII 和 FastGen）、模型压缩、端到端应用以及性能基准测试。

Who it’s for

使用 DeepSpeed 进行大型模型训练、优化或部署的开发者和研究人员，需要这些功能的具体实现范例。

Highlights

• 训练和微调的全面范例。
• 针对 DeepSpeed-MII、FastGen 和 Hugging Face 集成的专用推理路径。
• 模型压缩和性能基准测试的资源。