多変量時系列(MTS)データセットは、時系列的特徴と空間的特徴の両方において、予測可能性の観点から異質性を示すため、単一の予測モデルやアプローチをすべてのMTSデータセットに適用することは適切ではない。
MMFNetは、時系列データの多重スケール周波数分解と適応的なマスキング機構を組み合わせることで、長期的な多変量時系列予測の精度を向上させる。
多変量時系列の複雑な相関関係を明示的にモデル化するため、正規直交関数基底空間を拡張し、チャンネル間の依存関係を重み付き係数で表現するPolyMambaを提案した。
提案モデルCMambaは、時間依存性をモデル化するM-Mambaモジュールと、チャンネル依存性をモデル化するGDD-MLPモジュールを組み合わせることで、時間依存性とチャンネル依存性の両方を効果的にキャプチャーし、多変量時系列予測の性能を向上させる。
バリエート埋め込み(VE)を使用することで、各バリエートに固有かつ一貫した埋め込みを学習し、Mixture of Experts(MoE)とLow-Rank Adaptation(LoRA)を組み合わせることで、予測性能を向上させつつパラメータ数を抑えることができる。
カーネルU-Netは、入力系列を潜在ベクトルに圧縮し、対称的なデコーダーでこれらのベクトルを出力系列に展開する柔軟で計算効率の高いU型ニューラルネットワークアーキテクチャである。
本論文は、チャンネル間の相関を効率的に捉えるSTAD (STar Aggregate Dispatch) モジュールを提案し、これを用いた効率的な多変量時系列予測モデルSOFTSを開発した。SOFTS は、従来のTransformer系モデルと比べて高い予測精度を維持しつつ、計算コストを大幅に削減できる。