本文主要介绍时间序列数据预测的领域SOTA算法模型TimesNet
TimesNet架构图
原作论文 Haixu Wu, Tengge Hu, Yong Liu, Hang Zhou, Jianmin Wang, and Mingsheng Long. TimesNet: Temporal 2D-Variation Modeling for General Time Series Analysis. In ICLR, 2023
开源地址 https://github.com/thuml/TimesNet
核心思想1:对序列多周期特征建模
时序数据的变化通常具有多个周期,如电力温度走势可能具有天周期、周周期和季周期。因此使用快速傅里叶变换(FFT)进行频谱分析,分离出最显著的 k个不同周期信号,利于更好地捕捉时序数据的变化特征。对应于TimesNet架构图中的FFT for Periods模块
核心思想2:对周期内和周期间的变化特征建模
时序数据在周期内部和周期之间有其各自的变化趋势,一维数据较难同时对周期内变化特征和周期间变化特征进行建模。因此按照周期将一维数据分段,在纵向上对齐相位形成二维数据:二维数据的横向反应了周期内部变化,纵向反应了周期间相同相位的变化,由此完成两项特征建模。对应于TimesNet架构图中的Reshape模块
核心思想3:用计算机视觉模型提取二维数据特征
二维数据的特征提取任务,可使用计算机视觉算法模型来解决。作者使用类ResNet结构,使用卷积和池化来提取信号特征。对应于TimesNet架构图中的Inception Block模块
核心思想4:融合各周期特征输出
将完成提取的k个周期的二维特征降为一维特征,最终使用加权平均方法进行特征融合,得到最终的输出序列。对应于TimesNet架构图中的Reshape Back、Softmax模块