CALF：用于长期时间序列预测的高效跨模态LLM微调框架

文章预览

深度学习在多变量时间序列预测（MTSF）领域取得了显著进展。尽管现有的方法大多依赖于单一模态的时间序列输入进行训练，但近期基于大语言模型（LLMs）的跨模态时间序列预测方法在数据有限的情况下展示了卓越的性能。然而，现有的 LLM-based MTSF 方法通常忽略了文本和时间序列输入之间的分布差异，导致性能次优。 本文介绍一篇来自清华大学和深圳大学开展的时间序列预测研究工作。 研究者提出了一种新的跨模态大语言模型微调框架（CALF），旨在减少文本与时间序列数据之间的分布差异。 CALF 主要包括时间序列目标分支和文本源分支，通过跨模态匹配模块、特征正则化损失和输出一致性损失，实现了两种模态之间的高效对齐。实验结果表明，CALF 在长短期预测任务中均取得了最新的性能，并展示了与大语言模型类似的优越少样本和零样本能 ………………………………