文章预览
之前,我们解读过时间序列预测模型中的经典文章 PatchTST 。事实上,Patch方法目前在时间序列领域几乎等同于attention。 本文介绍的论文也比较有意思,是继PatchTST之后的新工作,进一步简化了时序预测模型,同时也对比了Patch independent和Patch dependent两种方法。 论文地址:https://arxiv.org/abs/2312.16427 论文源码:https://github.com/seunghan96/pits Patch依赖和独立 对于大部分的模型在做预测时,为了提高特征表征能力,都增加了自监督表示学习策略,PatchTST也是如此。 在PatchTST中,作者也是故意随机移除输入序列的一部分内容,并训练模型恢复缺失的内容。 本文研究者认为,Patch之间的关系,在时间序列领域,对于预测被mask的Patch是冗余的,换言之,只需要用Patch自己本身的信息就能实现预测,文中称之为Patch independent建模。 研究者通过一个简单的实验,对比了Patc
………………………………