Transfomer+图表示学习！新作登上Nature一区TOP，计算成本最高降低449倍​！

文章预览

Transformer不仅在CV和NLP领域发展迅猛，在图表示学习领域，也有了极大的突破。比如中科院在《Nat.Biomed.Eng.》上发表的基于Transformer的图表示学习模型TREE，以及《Nat.Commun.》上基于Transformer和图表示学习的多任务学习框架Retro-MTGR，都实现了最先进的性能！ 再比如NAVER的一种新的GNN架构DGT，将Transformer与图表示学习结合起来，性能直冲顶峰，计算成本比传统Transformer图模型降低了最高449倍！强烈建议相关领域的论文er研读这些优秀成果！ 现在， Transformer+图表示学习已经成了学术界与工业界共同的热点 ，未来想要在这方向有所突破，可从这三个维度入手： 高效计算架构、深度结构感知、动态时空建模 ，更前沿的也可延伸到多模态对齐等交叉领域。 本文整理了 10篇 Transformer+图表示学习2025新论文（有代码） ，方便需要参考的同学快速寻找idea，如果觉得有 ………………………………