WenjieDu/SAITS
The official PyTorch implementation of the paper "SAITS: Self-Attention-based Imputation for Time Series". A fast and state-of-the-art (SOTA) deep-learning neural network model for efficient time-series imputation (impute multivariate incomplete time series containing NaN missing data/values with machine learning). https://arxiv.org/abs/2202.08516
해결하는 문제
SAITS는 다변량 시계열 데이터의 누락된 값을 보완하기 위한 프레임워크입니다. 특히 RNN 기반 모델의 한계인 느린 학습 속도, 메모리 제약, 시간이 지남에 따라 누적되는 오차(오차의 누적)를 해결합니다.
작동 방식
SAITS는 재귀적 설계 없이 순수한 자기주의(self-attention) 메커니즘을 사용합니다. 정확도와 효율성을 향상시키기 위해 공동 최적화 학습 방식을 채택했습니다. 이 프레임워크는 매우 유연하여, 20개 이상의 다른 예측 모델에 임베딩 및 학습 전략을 적용하여 시계열 보간을 가능하게 했습니다.
대상 사용자
부분적으로 관측된 시계열 데이터셋을 다루는 연구자 및 데이터 과학자로서, 시퀀스 데이터에 대해 높은 정확도와 효율적인 보간 방법이 필요한 분들.
주요 특징
- 높은 성능: MAE 기준으로 BRITS를 12%
38% 우수하며, 학습 속도가 2.02.6배 빠릅니다. - 효율적인 아키텍처: 표준 Transformer의 15%~30%의 파라미터만 사용하면서도 성능은 동등하거나 이를 초과합니다.
- 비재귀적: 재귀적 설계 없이 일반 시계열 보간에 순수한 자기주의를 적용한 최초의 연구입니다.
- 도구상자 통합: 이제 PyPOTS 도구상자에 포함되어 보다 쉽게 구현할 수 있습니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트