xLSTM-Mixer: 混合多变量时间序列预测

文章预览

本文提出了一种名为xLSTM-Mixer的新型多变量时间序列预测模型，该模型结合了线性预测和xLSTM模块，通过时间、联合和视图混合来捕捉复杂的时间依赖关系和变量间关系。 1. 引言 时间序列数据广泛存在于医疗、制造、交通、金融、音频处理和天气建模等多个关键领域。尽管时间序列预测在过去几十年取得了显著进展，但该领域仍远未得到解决。现有模型和方法组合的改进不断涌现，表明机器学习模型的预测质量仍有很大的提升空间。 传统的循环神经网络（RNNs）及其强大的后继者是基于深度学习的时间序列预测的自然选择。然而，大型Transformer模型在时间序列任务中的应用越来越广泛，包括预测。然而，它们通常需要大量的数据集才能成功训练，限制了它们的应用范围。此外，由于注意力机制的成本与变量数和时间步数的平方成正比，因此它们在处 ………………………………