清华大学最新发布：统一时序预测模型，上下文长度首次扩展至千级别，适用各类数据集

文章预览

今天给大家介绍一篇清华大学的时间序列预测最新工作，提出了统一的Transformer时序预测模型，能同时处理单变量和多变量时序预测，并将时序预测的上下文长度首次扩充到千级别。 论文标题 ：TIMER-XL: LONG-CONTEXT TRANSFORMERS FOR UNIFIED TIME SERIES FORECASTING 下载地址 ： https://arxiv.org/pdf/2410.04803v1 1 背景 构建类似NLP领域的统一大模型是时序预测领域近期研究的焦点。虽然前序已经涌现很多工作，但是这些建模方法只能处理最多几百长度的上下文序列，比如根据历史200个数据点预测未来时刻的序列值。而NLP中的建模可以利用千级别甚至万级别的上下文信息。历史序列长度的不足，导致时序预测模型无法根据完整的、长周期的历史信息进行预测，影响了预测效果。 为了解决上述问题，本文构建了基于Decoder-only Transformer模型的统一时间序列预测模型Timer-XL，可以 ………………………………