SalesforceAIResearch/uni2ts
Unified Training of Universal Time Series Forecasting Transformers
What it solves
Uni2TS는 Universal Time Series Transformers 개발을 위한 통합 프레임워크를 제공하도록 설계되었습니다. 특정 데이터셋마다 모델을 별도로 만들 필요 없이 다양한 시계열 데이터셋에 대해 대규모 사전 학습, 파인튜닝 및 제로샷 예측을 수행할 수 있는 문제를 해결합니다.
How it works
이 라이브러리는 PyTorch 위에 구축되었으며, 추론을 위해 GluonTS와 통합되고 데이터 로딩은 Hugging Face datasets 라이브러리를 사용합니다. 표준 Moirai 모델과 Moirai‑MoE(Mixture of Experts) 변형을 포함한 다양한 모델 아키텍처를 지원합니다. 프레임워크는 CLI를 제공하며, Hydra를 이용한 설정 관리로 사전 학습, 파인튜닝, 평가 작업을 관리합니다.
Who it’s for
이 도구는 시계열 예측에 종사하는 AI 연구자와 개발자를 대상으로 하며, 특히 시계열 데이터에 대한 foundation model을 활용하고자 하는 사람들을 위한 것입니다.
Highlights
- Universal Forecasting: Moirai 및 Moirai‑MoE와 같은 사전 학습된 모델을 사용한 제로샷 예측을 지원합니다.
- Comprehensive Pipeline: 대규모 사전 학습, 커스텀 데이터셋에 대한 파인튜닝, MSE, MASE, CRPS 등 지표를 활용한 평가를 포함한 전체 파이프라인을 제공합니다.
- Flexible Data Handling: wide, long, wide_multivariate 등 다양한 데이터셋 유형을 지원하고 Hugging Face 생태계와 통합됩니다.
- MoE Integration: 희소 Mixture of Experts를 활용하는 Moirai‑MoE를 구현하여 시계열 foundation model의 성능을 강화합니다.