提案するCP-Netは、MLPレイヤーの大域的な射影の効率を高めるために、セマンティックパターンと時間的依存関係を抽出する2段階のコーシング戦略を採用している。
化学業界指数の予測精度を向上させるため、深層学習モデルのLSTMとVARMAモデルを組み合わせた新しい予測モデル「DeepVARMA」を提案する。
時系列予測の際の2つの主要な課題、すなわち過去系列からの効果的な特徴抽出と予測系列の時間依存性学習における過剰適合を解決するため、本論文は交差変数エンコーダ(CVE)と交差時間エンコーダ(CTE)からなるCVTNアーキテクチャを提案する。CVEは過去系列からの特徴抽出に、CTEは予測系列の時間依存性学習に特化しており、これらを分離することで過剰適合を回避し、高精度な時系列予測を実現する。
時系列予測タスクにおいて、LSTMネットワークを用いて共変量を同時に予測することは、特定の条件下では全体的なモデルパフォーマンスを向上させることができるが、多くの場合、共変量の予測は単変量予測よりも劣る可能性がある。
時系列データの集合を用いて予測モデルを構築する際、特定の時系列に関する情報が過小評価されることがある。本研究では、この問題を不均衡学習の観点から捉え、過少表現の時系列に対して合成サンプルを生成することで、ローカルとグローバルのトレードオフを改善する手法を提案する。
データ品質の問題に対処するために、LSTMモデルにデータ修正機能を組み込むことで、予測精度を向上させることができる。
本論文は、長期時系列予測のためのBi-Mamba4TSモデルを提案する。Bi-Mamba4TSは、Mambaの線形計算量と長期依存性モデリングの優れた能力を活用し、時系列データの特性に応じて適切な入力トークン化戦略を自動的に選択する。さらに、パッチ化と双方向Mambaエンコーダを導入することで、時系列の微細な進化パターンをより詳細にモデル化することができる。
ARIMAモデルを使用して、加入者データ使用量の増加を予測することができる。
本論文では、長期短期時系列予測のためにMambaとTransformerを統合したハイブリッドフレームワークMambaformerを提案する。Mambaformerは、長期依存関係をモデル化するMambaと短期依存関係をモデル化するTransformerを組み合わせることで、優れた予測性能を実現する。
時系列予測におけるトランスフォーマーベースの手法では、ポジショニングエンコーディングが重要な役割を果たすが、その特性は十分に理解されていない。本研究では、ポジショニングエンコーディングの特性を分析し、新しいポジショニングエンコーディングを提案することで、時系列予測の性能を向上させる。