基于细颗粒度注意力的层次Transformer在表格类时序中的应用

文章预览

J.P.Morgan的python教程 Content 本文介绍了表格时间序列数据在多个实际应用中的重要性，并提出了一种名为 Fieldy 的新型细粒度层次化模型，该模型通过在行和列级别上对字段进行上下文化，以捕捉字段间的复杂关系。通过与现有最先进模型在回归和分类任务上的比较，展示了 Fieldy 在性能上的提升。 1. 引言 (Introduction) 顺序表格数据在工业中应用广泛，如银行数据库中的金融交易记录、医院存储的医疗记录或 CRM 系统中的客户购买历史。 表格时间序列数据与传统多变量时间序列数据存在不同之处，特别是表格时间序列数据中记录跨越多行且包含时间相关字段。此外，文章还涉及了变换器架构在表格数据处理中的应用，以及这些架构如何通过注意力机制学习时间步骤之间的关系模式，从而在表格数据建模中提取有意义的模式。 2. 相关工作 (Related Work) 文 ………………………………