본 논문에서는 장기 시계열 예측(LTSF)에서 모델 복잡성을 최소화하면서도 정확성과 견고성을 향상시키기 위해 데이터 분해 기법을 적용한 SSCNN 모델을 제안합니다.
병렬 게이트 네트워크(PGN)는 정보 전파 경로를 O(1)로 줄여 RNN의 한계를 극복하고, 시간적 병렬 게이트 네트워크(TPGN)는 장단기 정보를 종합적으로 포착하여 장기 시계열 예측 성능을 향상시킨다.
시간 및 채널 차원의 다중 소스 정보를 효과적으로 융합하여 장기 시계열 예측 정확도를 향상시킴
테스트 시간 학습(TTT) 모듈을 활용하여 기존 최신 모델들을 능가하는 장기 시계열 예측 성능 달성
ReCycle는 주기 압축과 잔차 학습을 통해 트랜스포머 기반 모델의 계산 복잡성을 크게 낮추면서도 예측 정확도를 향상시킨다.
선형 전문가 혼합 모델(MoLE)은 기존 선형 중심 모델의 성능을 향상시킬 수 있다. MoLE는 여러 개의 선형 전문가 모델을 학습하고 이를 적응적으로 혼합하여 시계열 데이터의 다양한 패턴을 포착할 수 있다.
SparseTSF는 최소한의 계산 자원으로도 경쟁력 있거나 우수한 성능을 달성할 수 있는 혁신적인 초경량 모델이다. 이는 Cross-Period Sparse Forecasting 기술을 통해 데이터의 주기성과 추세를 효과적으로 분리하여 모델의 복잡성과 매개변수 수를 극도로 줄였기 때문이다.
단순한 선형 모델이 여러 Transformer 기반 접근법을 능가할 수 있다는 최근 연구 결과에 동기부여 받아, 우리는 선형 모델의 단순성과 속도를 누리면서도 공변량과 비선형 의존성을 처리할 수 있는 다층 퍼셉트론(MLP) 기반 인코더-디코더 모델인 Time-series Dense Encoder(TiDE)를 제안한다.