阅读: 2023/5/4 10:10:43
近年来,图神经网络(Graph Neural Network, GNN)作为一种新兴的深度学习技术,在各领域取得了显著的成功。作为衡量GNN算法优劣的全球性长期排行榜——Open Graph Benchmark(OGB),由斯坦福大学组织,并持续关注图神经网络研究的最新进展。在这个榜单中,复旦大学、阿里巴巴、浙江大学等单位联合研发的GIPA算法(General Information Propagation Algorithm)表现出色,不仅在互联网工业应用中成功落地,还连续两次(2021年、2023年)荣获OGB蛋白质性能预测的第一名,展示了其强大的生命力和广泛的应用前景。GIPA算法的源代码已在Github上向公众开放,地址为:https://github.com/houyili/gipa_wide_deep。研究者、开发者和企业可以通过该链接了解和学习GIPA算法。
为了进一步提升GIPA算法的性能,研究者们2023年提出了Wide&Deep GIPA算法。Wide&Deep GIPA算法在原有GIPA算法的基础上做了重要优化和创新,成功将GIPA算法在OGB蛋白质数据集的排名再次提升至第一。
GIPA算法的核心思想体现在以下四个关键点:
边特征的重要性:在传播函数和图神经网络中的注意力机制中使用边特征,增强了算法对边信息的挖掘能力。
节点与边特征以及消息嵌入在图神经网络的每一层中进行相互作用,充分考虑了不同层次信息的结合与交互,提高了算法的表达能力。
采用非线性变换的传播函数和注意力机制,增强了算法对复杂结构和特征的学习能力,提高了模型的泛化性能。
将点、边特征映射为Dense Embedding和Sparse Embedding两种表达,并且在GNN中进行独立的消息传播与学习。
此外,GIPA算法已被收录在数据库国际顶会DASFAA 2023(Database Systems for Advanced Applications),论文题目为“GIPA: A General Information Propagation Algorithm for Graph Learning”。这一论文详细介绍了GIPA算法的设计理念、技术细节和实验结果,为广大研究者和开发者提供了宝贵的学习资料。
GIPA算法的突破性成果引起了业界的广泛关注,为图神经网络研究和应用领域带来了深远的影响。论文第一作者李厚意博士介绍到,通过对边特征的挖掘、节点与边特征的交互以及非线性变换的引入,GIPA算法充分展示了其在处理Edge Attributed Graph问题上的优势。未来,GIPA算法有望在更多领域发挥巨大作用,例如社交网络、金融风控、生物医疗、推荐系统等。这些领域中的问题往往具有复杂的图结构与边特征,GIPA算法有望为解决这些问题带来新的视角和方法。
论文主要合作者浙大兼聘教授及杭州连通图科技有限公司创始人李朝博士表示,GIPA算法的成功,也表明了中国在图神经网络领域的研究实力。我们期待更多优秀的研究者和企业加入到这一领域,共同推动图神经网络技术的发展和创新!
论文预览版:
https://arxiv.org/abs/2301.08209
转自:“知社学术圈”微信公众号
如有侵权,请联系本站删除!