KDD2024 | Transformer频域消偏提升时序预测准确性

文章预览

点关注，不迷路，用心整理每一篇算法干货~ 后台留言” 交流 “， 加入圆圆算法交流群~ 后台留言” 干货 “， 获取干货算法笔记 ~ 后台回复“ 星球 ”，加入 圆圆算法知识星球~ （ 已有 810+ 同学加入学习） Transformer在时间序列中已经应用比较广泛。但是最近一些针对Transformer的研究工作指出，Transformer的self-attention机制在建模序列数据时，比较倾向于学习低频的信息，而忽略了高频信息，造成频率偏差问题，影响了预测效果。 在时间序列预测中，这个问题也存在，为了解决这个问题，在KDD 2024上，大阪大学发表了一篇相关工作Fredformer，对Transfomrer在时间序列预测中的这种问题进行了解决。 论文标题 ：Fredformer: Frequency Debiased Transformer for Time Series Forecasting 下载地址 ： https://arxiv.org/pdf/2406.09009v4 1 背景 一些研究指出，transformer模型在进行时间序列预 ………………………………