核心概念
提出CTLPE,一種用於不規則時間序列預測的新型位置嵌入方法。CTLPE通過學習連續線性函數來有效地表示時間信息,解決了不規則時間序列中觀測模式不一致和時間間隔不規則的問題。
摘要
本文提出了一種名為連續時間線性位置嵌入(CTLPE)的新方法,用於解決不規則時間序列預測的挑戰。
- 不規則時間序列預測的挑戰:
- 觀測模式不一致:不同觀測點共享相同的位置參數會造成干擾,需要使用可學習的連續函數作為位置嵌入。
- 時間間隔不規則:與規則時間序列或自然語言不同,不規則時間序列的時間上下文很大程度上取決於觀測點之間的距離,但轉換器模型無法直接從觀測時間差中學習。因此位置嵌入應該能夠簡潔地表示位置信息,間接表示觀測點之間的不規則時間差。
- CTLPE方法:
- 定義在連續時間上的可學習線性函數,可以為任何不一致的觀測模式提供位置嵌入值。
- 線性形式滿足位置嵌入的單調性和平移不變性等理想性質,能夠有效表示不規則時間差。
- 設計神經控制微分方程(NCDE)基礎的位置嵌入,實證線性形式優於其他連續形式。
- CTLPE可以無縫集成到為規則時間序列設計的轉換器模型中,擴展其處理不規則時間序列的能力。
- 實驗結果:
- CTLPE在各種缺失率下的不規則多元時間序列預測任務中,均優於其他基線方法。
- CTLPE在不同預測長度的任務中也表現出色,展現了其強大的適應性。
總之,CTLPE通過學習連續線性函數有效地表示時間信息,解決了不規則時間序列中的關鍵挑戰,顯著提升了轉換器模型在不規則時間序列預測任務上的性能。
統計資料
不規則時間序列預測的平均MSE和MAE如下:
24小時預測,缺失率0%: MSE 0.312, MAE 0.360
48小時預測,缺失率0%: MSE 0.413, MAE 0.427
1週預測,缺失率0%: MSE 0.628, MAE 0.559
2週預測,缺失率0%: MSE 0.655, MAE 0.581
引述
"CTLPE通過學習連續線性函數有效地表示時間信息,解決了不規則時間序列中的關鍵挑戰,顯著提升了轉換器模型在不規則時間序列預測任務上的性能。"
"線性形式滿足位置嵌入的單調性和平移不變性等理想性質,能夠有效表示不規則時間差。"