ICML 2024丨多轨图卷积网络：解决过平滑与过碾压的新思路

文章预览

图神经网络（Graph Neural Networks）是强大的图（关系与交互系统）分析工具，已成功应用在推荐系统、金融风控、知识工程、分子动力学模拟、芯片设计等诸多领域。绝大多数GNNs利用消息传递（Message Passing）框架实现拓扑感知及信息融合，该框架的核心是消息聚合与转换模块。然而，相较于计算机视觉与自然语言处理领域的大模型，当前GNNs模型层数较浅，未能充分发掘出模型的表达潜力。 过平滑（Oversmoothing）和过碾压（Oversquashing）问题使得难以通过堆叠多层的方式构建深层的GNNs。过平滑是指随着消息聚合次数的增加，节点表示变得无法相互区分；过碾压是指在来自远端节点的信息被过度压缩在有限长度的表示向量中，这阻碍了对图中长程依赖关系的捕获。 现有解决过平滑与过碾压的工作大多基于以下3类策略。（1）图重写（Graph rewiring）策略通 ………………………………