今天看啥  ›  专栏  ›  圆圆的算法笔记

一文汇总:长周期时序预测有哪些优化点?

圆圆的算法笔记  · 公众号  · 算法 科技自媒体  · 2024-09-10 22:25

主要观点总结

本文介绍了关于长周期时间序列预测的关键问题与挑战,以及针对这些问题的解决方案。文章从长周期解码方式优化、长周期信息补充、长周期简化模型、频域提取长周期全局信息以及长周期性能优化等五个方面进行了详细阐述,并介绍了业内相关的研究工作及其创新点。

关键观点总结

关键观点1: 长周期时间序列预测的关键问题与挑战

主要包括长周期历史信息提取、长周期预测和运行效率等方面的问题。随着预测长度的增加,模型需要引入更长的历史序列,同时面临着过拟合、预测精度下降以及效率降低等挑战。

关键观点2: 长周期解码方式优化

介绍了PETformer和Informer等模型在解码过程中如何更完善的和历史序列进行交互,通过placeholder-enhanced的方式和拼接历史序列的方式,使待预测部分能够获取历史序列信息。

关键观点3: 长周期信息补充

介绍了在长周期中,一些以长跨度为主的特征如自相关系数等,是深度学习模型难以学到的。为此,一些工作通过人工抽取特征或辅助任务的方式引入这些信息。另外,通过自相关系数的对比学习,实现对Encoder建模窗口以外全周期时间序列信息的应用。

关键观点4: 长周期简化模型

由于历史输入的增加,解空间变大,时间序列往往还存在比较大的噪声,导致Transformer等模型容易出现过拟合问题。因此,一些工作简化了模型结构,用线性等更基础的网络结构构建了鲁棒性更强的长周期时序预测模型。

关键观点5: 频域提取长周期全局信息

介绍了利用频域信息的重要性,因为频域代表了序列的全局信息。通过短时傅里叶变换等方法,将原始时间序列分成多个窗口,并分别进行傅里叶变换,得到描述原始时间序列的时域频域关系矩阵,实现对全局信息更直接的刻画。

关键观点6: 长周期性能优化

介绍了针对长周期时间序列预测的性能优化方法,包括提升attention计算效率的方法,如局部attention和稀疏attention等。


文章预览

点关注,不迷路,用心整理每一篇算法干货~ 后台留言” 交流 “, 加入圆圆算法交流群~ 后台留言” 干货 “, 获取干货算法笔记 ~ 后台回复“ 星球 ”,加入 圆圆算法知识星球~ ( 已有 840+ 同学加入学习) 1 长周期时序预测核心问题 长周期时间序列预测,指的是预测窗口较长一类时间序列预测问题。一般来说,预测长度在50个点以上,就可以认为是长周期时间序列预测问题。同时,预测长度的增加,会使得模型需要引入更长的历史序列,才能实现更好的预测。相比短周期时序预测,长周期时序预测主要面临的挑战有以下几个方面。 长周期历史信息提取 :相比短序列,长序列由于其样本点更多,对历史信息的提取也更加困难,模型容易随着输入历史序列长度的增长而过拟合。并且,长周期预测也更难捕捉对每个时间步有用的历史信息。 长周期预 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览