ICML 2024丨多轨图卷积网络:解决过平滑与过碾压的新思路

ICML 2024丨多轨图卷积网络:解决过平滑与过碾压的新思路

AIGC动态欢迎阅读

原标题:ICML 2024丨多轨图卷积网络:解决过平滑与过碾压的新思路
关键字:节点,消息,轨道,语义,问题
文章来源:AI科技评论
内容字数:0字

内容摘要:


图神经网络(Graph Neural Networks)是强大的图(关系与交互系统)分析工具,已成功应用在推荐系统、金融风控、知识工程、分子动力学模拟、芯片设计等诸多领域。绝大多数GNNs利用消息传递(Message Passing)框架实现拓扑感知及信息融合,该框架的核心是消息聚合与转换模块。然而,相较于计算机视觉与自然语言处理领域的大模型,当前GNNs模型层数较浅,未能充分发掘出模型的表达潜力。
过平滑(Oversmoothing)和过碾压(Oversquashing)问题使得难以通过堆叠多层的方式构建深层的GNNs。过平滑是指随着消息聚合次数的增加,节点表示变得无法相互区分;过碾压是指在来自远端节点的信息被过度压缩在有限长度的表示向量中,这阻碍了对图中长程依赖关系的捕获。
现有解决过平滑与过碾压的工作大多基于以下3类策略。(1)图重写(Graph rewiring)策略通过删边[1][2]或增边[3][4]的方式优化图的拓扑结构。Graph transformer模型也可以看做是一种基于attention的增边方式。(2)正则项策略通过约束节点表示[5]或者信息流[6]的方式,避


原文链接:ICML 2024丨多轨图卷积网络:解决过平滑与过碾压的新思路

联系作者

文章来源:AI科技评论
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...