deepspeedai/DeepSpeedExamples

What it solves

이 저장소는 사용자가 대규모 AI 모델 개발을 위해 DeepSpeed 라이브러리를 활용할 수 있도록 실용적인 구현 및 벤치마크를 중앙 집중식으로 모아 놓았습니다.

How it works

학습 및 미세 조정, 고성능 추론(DeepSpeed-MII 및 FastGen 활용), 모델 압축, 엔드투엔드 애플리케이션, 그리고 성능 벤치마크의 5가지 핵심 영역에 걸쳐 다양한 참조 구현을 정리합니다.

Who it’s for

DeepSpeed를 사용하여 대규모 모델을 학습, 최적화 또는 배포하려는 개발자와 연구자로서, 이러한 기능을 구현하는 구체적인 예제가 필요한 분들입니다.

Highlights

• 학습 및 미세 조정을 위한 포괄적인 예제.
• DeepSpeed-MII, FastGen 및 Hugging Face 통합을 위한 전용 추론 경로.
• 모델 압축 및 성능 벤치마크를 위한 리소스.