WenjieDu/SAITS

何を解決するか

SAITSは、多次元時系列データの欠損値を補完するためのフレームワークです。特に、RNNベースのモデルの限界、すなわち訓練速度の遅さ、メモリ制約、時間の経過に伴う誤差の蓄積（誤差の累積）を解決します。

仕組み

SAITSは、再帰的な設計を一切用いない純粋な自己注意機構を使用しています。精度と効率を向上させるための共同最適化トレーニングアプローチを採用しています。このフレームワークは非常に柔軟で、20以上の他の予測モデルに埋め込みおよびトレーニング戦略を適応させ、時系列の補完を可能にしています。

対象ユーザー

部分的に観測された時系列データセットを扱う研究者やデータサイエンティストで、シーケンスデータに対して高精度かつ効率的な補完手法が必要な方々。

特徴

• 高いパフォーマンス: MAEにおいてBRITSを12%～38%上回り、訓練速度が2.0～2.6倍速い。
• 効率的なアーキテクチャ: 標準的なTransformerの15%～30%のパラメータ数で、性能は同等またはそれを上回る。
• 非再帰的: 再帰的設計を用いずに、一般時系列補完に純粋な自己注意機構を適用した初めての研究。
• ツールボックス統合: 今やPyPOTSツールボックスの一部として利用可能で、実装が容易になっています。