港大新型图基础模型AnyGraph:挑战Scaling Law,精准建模多样化结构模式和特征空间

港大新型图基础模型AnyGraph:挑战Scaling Law,精准建模多样化结构模式和特征空间

AIGC动态欢迎阅读

原标题:港大新型图基础模型AnyGraph:挑战Scaling Law,精准建模多样化结构模式和特征空间
关键字:模型,数据,特征,专家,样本
文章来源:量子位
内容字数:0字

内容摘要:


AnyGraph团队 投稿量子位 | 公众号 QbitAI新型图基础模型来了——
AnyGraph,基于图混合专家(MoE)架构,专门为实现图模型跨场景泛化而生。
通过MoE架构、路由算法、SVD方法和MLP网络等,AnyGraph解决了跨域和域内图异构性问题,并进行了高效跨域模型训练。
能够精准建模多样化的结构模式和特征空间。
在38个不同领域数据集上进行实验,AnyGraph在零样本预测、扩展定律、消融实验和效率实验等方面均表现出色。
AnyGraph由来自香港大学的研究人员完成。
关于AnyGraph的更多细节我们接着往下看。
AnyGraph长啥样?随着图结构数据在各个领域的日益普及,对具有出色泛化能力的图学习模型的需求愈发迫切。
现实应用中,图学习模型需有效应对分布偏移并适应新的图领域,但当前的先进模型在真正的泛化性能方面往往表现不足,严重依赖繁重的微调过程,难以适应实际应用中多样的图结构和分布。
受成功的基础模型在理解视觉和语言数据方面的启发,通用的图基础模型具有巨大潜力,可从多样的图结构数据中学习可迁移的表示,从而高效适应各种图领域和任务。
然而,构建有效的自适应图基础模


原文链接:港大新型图基础模型AnyGraph:挑战Scaling Law,精准建模多样化结构模式和特征空间

联系作者

文章来源:量子位
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...