Graph图和Geometric Deep Learning几何深度学习的Foundation Models基础模型

文章预览

本文 约10000字 ，建议阅读 10+ 分钟 本文为你介绍图 FM及其使用的示例。 语言、视觉和音频的Foundation Models基础模型已成为 2024 年机器学习的主要研究主题之一，而针对图结构数据的 FMs 则有些落后。在这篇文章中，我们认为图 FM 的时代已经开始，并提供了一些如何在今天使用它们的示例。 图形和几何深度学习中新兴基础模型的时间线。 什么是图形基础模型以及如何构建它们？ 由于对于什么是“基础”模型存在一定程度的模糊性，因此首先进行定义以建立共同点是适当的： “图形基础模型是一种单一（神经）模型，可以学习可转移的图形表示，并可以推广到任何新的、以前从未见过的图形” 其中一个挑战是图具有各种形式和形状，并且它们的连接和特征结构可能非常不同。标准图神经网络 (GNN) 不是“基础性的”，因为它们最好只能在具有相同类 ………………………………