Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >2022最新图嵌入模型综述

2022最新图嵌入模型综述

作者头像
张小磊
发布于 2022-02-28 03:49:10
发布于 2022-02-28 03:49:10
1.7K0
举报

图分析用于深入挖掘图数据的内在特征,然而图作为非欧几里德数据,传统的数据分析方法普遍存在较高的计算量和空间开销。图嵌入是一种解决图分析问题的有效方法,其将原始图数据转换到低维空间并保留关键信息,从而提升节点分类、链接预测、节点聚类等下游任务的性能。与以往的研究不同,同时对静态图和动态图嵌入文献进行全面回顾,我们提出一种静态图嵌入和动态图嵌入通用分类方法, 即基于矩阵分解的图嵌入、基于随机游走的图嵌入、基于自编码器的图嵌入、基于图神经网络(GNN)的图嵌入和基于其他方法的图嵌入。其次,对静态图和动态图方法的理论相关性进行分析,对模型核心策略、下游任务和数据集进行全面总结。最后,提出了四个图嵌入的潜在研究方向。

http://fcst.ceaj.org/CN/10.3778/j.issn.1673-9418.2104020

图是复杂系统中常用的信息载体,可以表示现实中许多复杂关系,如社交网络[1]、犯罪网络[2]、交通网络[3]等。图结构作为一种非欧几里德数据,很难直接应用卷积神经网络(convolutional neural network,CNN)[4]和循环神经网络(recurrent neural network,RNN)[5]等深度学习方法[6]。为了构造用于图数据挖掘的特征表示,图嵌入将节点映射到低维空间,生成保留原始图中某些重要信息的低维向量。目前,图嵌入不仅在节点分类[7]、链接预测[8]、节点聚类[9]、可视化[10]等复杂网络上的机器学习任务中获得成功,还广泛用于社交影响力建模[11]、内容推荐[12]等现实任务。

早期的图嵌入算法主要用于数据降维,通过邻域关系构建相似度图,将节点嵌入低维向量空间,并保持相连节点向量的相似性。这类方法通常时间复杂度高,很难扩展到大型图上。近年来,图嵌入算法转向扩展性强的方法。例如,矩阵分解方法[13]使用邻接矩阵的近似分解作为嵌入;随机游走法[14]将游走序列输入到Skip-Gram[15]生成嵌入。这些方法利用图的稀疏性降低了时间复杂度。当前,很多综述[16,17,18,19,20,21]对图嵌入方法进行了归纳与总结,但存在两大局限:一是部分综述仅涉及传统方法介绍,许多新模型没有纳入研究;二是这些综述只关注静态图嵌入或动态图嵌入,忽略了二者之间的关联性。

本文对图嵌入方法进行全面系统性综述,有以下三方面的贡献:(1)提出一种新的图嵌入分类法,同时对静态图和动态图方法进行分类;(2)对现有模型进行系统性分析,为理解现有方法提供新视角;(3)提出了四个图嵌入的潜在研究方向。

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-01-18,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 机器学习与推荐算法 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
TKDE 2018 | 图嵌入综述:问题、技术和应用
https://ieeexplore.ieee.org/document/8294302
Cyril-KI
2022/09/19
1.5K0
TKDE 2018 | 图嵌入综述:问题、技术和应用
[万字综述] 21年最新最全Graph Learning算法,建议收藏慢慢看
今天小编给大家带来了一篇极全的2021最新图学习算法综述。该综述不仅囊括了目前热门的基于深度学习的图学习方法,还全面介绍了其它三个大类:基于图信号处理的方法、基于矩阵分解的方法、基于随机游走的方法。因此能带领大家从更多的维度认识网络表示学习。作者还概述了这四类图学习方法在文本、图像、科学、知识图谱和组合优化等领域的应用,讨论了图学习领域的一些未来研究方向。该综述对于帮助我们全面回顾图学习方法以及精准把控其未来研究方向具有巨大意义。
Houye
2021/05/31
2.9K0
[万字综述] 21年最新最全Graph Learning算法,建议收藏慢慢看
从数据结构到算法:图网络方法初探
本文作者朱梓豪为中科院信工所在读硕士,主要研究方向为图神经网络、视觉问答、视觉对话等。
机器之心
2019/08/16
6860
从数据结构到算法:图网络方法初探
【综述专栏】图神经网络综述
在科学研究中,从方法论上来讲,都应“先见森林,再见树木”。当前,人工智能学术研究方兴未艾,技术迅猛发展,可谓万木争荣,日新月异。对于AI从业者来说,在广袤的知识森林中,系统梳理脉络,才能更好地把握趋势。为此,我们精选国内外优秀的综述文章,开辟“综述专栏”,敬请关注。
马上科普尚尚
2021/03/17
9390
【综述专栏】图神经网络综述
清华大学图神经网络综述:模型与应用
该文总结了近年来图神经网络领域的经典模型与典型应用,并提出了四个开放性问题。对于希望快速了解这一领域的读者,不妨先从这篇文章看起。
机器之心
2019/01/02
1.8K0
Philip S. Yu 团队最新综述!社区发现的深度学习方法:进展、挑战、机遇
编者按:社区发现(Community Detection)是网络科学领域中一个经久不衰的重要问题。
AI科技评论
2020/05/25
4.3K0
Philip S. Yu 团队最新综述!社区发现的深度学习方法:进展、挑战、机遇
从“青铜”到“王者”-图嵌入在社区发现中的升级之路
图表示学习是一种把模型跟机器学习方法相结合的一类技术,当前比较热门的主要有两大类:图嵌入(Graph Embedding)和图神经网络(Graph Neutral Network)。图模型的应用非常广泛,如社交网络,通信网络。在安全领域图模型也有关越来越广泛的应用,比如黑灰产团伙挖掘、安全知识图谱、欺诈检测等等。真实的图或网络往往是高维的难处理的,为了对这种高维数据进行降维,图嵌入技术应运而生,图嵌入的本质是在尽量保证图模型的结构特性的情况下把高维图数据映射到低维向量空间。发展到现在图嵌入技术已经不仅仅是一种降维方法,与深度学习相结合后图嵌入技术可以具有更复杂的图计算与图挖掘能力。
绿盟科技研究通讯
2019/12/11
2.5K0
从“青铜”到“王者”-图嵌入在社区发现中的升级之路
2019年Philip S. Yu团队的图神经网络综述
使用graph来表示对象之间的复杂关系和依赖关系,然而graph数据的复杂已有的机器学习算法很难处理,所以使用深度学习方法来处理。A Comprehensive Survey on Graph Neural Networks论文回顾图神经网络(GNN)在文本挖掘和机器学习领域的发展,将GNN划分为递归图神经网络、卷积图神经网络、图自编码和时空图神经网络四类。此外还讨论图神经网络跨各种领域的应用、总结开源代码、数据集和图神经网络评价指标。最后给出可能的研究方向。
Earnest lee
2020/09/20
1.1K0
综述 | 基于GNN的异常检测
在上述分类下可以根据图数据类型可以进一步区分,主要包括:① 静态图:简单图,属性图 ② 动态图。
Houye
2021/10/12
3.9K0
综述 | 基于GNN的异常检测
【综述专栏】全面详述图监督图结构等图学习技术进展
图表示学习旨在将高维稀疏的图结构数据有效编码为低维稠密的向量,是机器学习、数据挖掘等众多领域的一项基础任务。经典的图嵌入方法遵循图中互联节点的嵌入向量仍然可以保持相对近距离的基本思想,从而保留图中节点之间的结构信息。然而,这是次优的,因为: (i)传统方法的模型容量有限,限制了学习性能; (ii)现有技术通常依赖于无监督学习策略,无法与最新的学习范式耦合; (iii)表示学习和下游任务相互依赖,需要共同加强。随着深度学习的显著成功,深度图表示学习比浅层(传统)方法显示出了巨大的潜力和优势,近十年来提出了大量的深度图表示学习技术,尤其是图神经网络。对当前的深度图表示学习算法进行了全面的调研,提出了一个现有的最先进文献的新分类法。系统地总结了图表示学习的基本组成部分,并通过图神经网络架构和最新的先进学习范式对现有方法进行了分类。此外,本文还提供了深度图表示学习的实际和有前景的应用。最后,本文阐述了新的观点,并提出了具有挑战性的方向,值得未来进一步研究。
马上科普尚尚
2023/08/29
8020
【综述专栏】全面详述图监督图结构等图学习技术进展
图神经网络2-图表征学习
图表征学习(Graph Representation Learning,也称之为图表示学习)是专门针对图数据域的技术,旨在将图结构中的节点转化为具有连续数值的向量表示,以便在这些表示上进行进一步的机器学习任务,如分类、聚类、链接预测等。
皮大大
2023/11/23
7820
从图嵌入算法到图神经网络
近几年来,伴随着计算机算力的急剧提升,神经网络从历史的尘埃中走出,横扫各大领域,完成一次次颠覆性的创新。依托高度弹性的参数结构,线性与非线性的矩阵变换,神经网络能适用于各式各样的数学场景,在各个类别的应用上我们都能看到神经网络的影子。其中著名的应用方向,包括自然语言处理、计算机视觉、机器学习、生物医疗、推荐系统、自动驾驶等等。图神经网络,广泛应用于社交关系、知识图谱、推荐系统、蛋白质分子建模,同样源自于对传统领域的创新,它的前身是图嵌入算法;而图嵌入算法又以图数据作为载体。这一关系,将贯穿本文始末,成为我们的展开线索。
张小磊
2020/04/21
1.9K0
从图嵌入算法到图神经网络
Bioinformatics| 生物医学网络中的图嵌入方法
今天给大家介绍Bioinformatics期刊的一篇文章,“Graph embedding on biomedical networks: methods, applications and evaluations”。文章研究了图嵌入方法在生物医学网络分析上的应用,来自美国俄亥俄州立大学、美国哥伦布国家儿童医院、华中农业大学的研究者完成了该项工作。文章选取了11种具有代表性的图嵌入方法,对3个重要的生物医学链接预测任务:(1)药物-疾病关联(drug-disease association, DDA)预测,(2)药物-药物相互作用(drug- drug interaction, DDI)预测,(3)蛋白质-蛋白质相互作用(protein - protein interaction, PPI)预测; 以及2个节点分类任务:(1)医学术语语义类型分类,(2)蛋白质功能预测进行了系统的比较。通过实验结果证明了目前的图嵌入方法取得了良好的效果,在生物医学网络分析方面具有很大的潜力。
DrugAI
2021/02/01
6050
图数据表征学习,绝不止图神经网络一种方法
近年来,图神经网络掀起了将深度学习方法应用于图数据分析的浪潮。不过其作为一门古老的认识世界的方法论,人们对于图数据表征技术的研究从很早以前就开始了。
AI科技评论
2020/06/03
3.7K0
深度学习时代的图模型,清华发文综述图网络
他们将现有方法分为三个大类:半监督方法,包括图神经网络和图卷积网络;无监督方法,包括图自编码器;近期新的研究方法,包括图循环神经网络和图强化学习。然后按照这些方法的发展史对它们进行系统概述。该研究还分析了这些方法的区别,以及如何合成不同的架构。最后,该研究简单列举了这些方法的应用范围,并讨论了潜在方向。
机器之心
2019/01/02
9530
网络表示学习概述
随着社交媒体的飞速发展,在线社交网络成为了人们赖以生存的第二世界。大规模社交网络用户的形成使得传统的网络表示方法遇到了瓶颈,由于随着深度学习技术的蓬勃发展以及受自然语言处理领域词嵌入技术的启发,自动学习网络中节点的向量表示成为近年来的研究热点。
张小磊
2020/04/21
7420
首篇NLP图神经网络综述来了! 127页文档让你全面了解这个领域
近些年来,深度学习已经成为处理NLP各种任务的主要方法。由于用图(graph)来表征文本可以更好的获取文本的结构信息,且随着火热的图神经网络的兴起,各种各样的NLP问题开始用图结构的形式来表示和学习。因此,为大量的NLP任务开发新的图深度学习技术就成为了一个必要的需求。
AI科技评论
2021/07/03
1.4K0
首篇NLP图神经网络综述来了! 127页文档让你全面了解这个领域
从0到1详解推荐系统中的嵌入方法,原理、算法到应用都讲明白了
作者曾在《矩阵分解推荐算法》这篇文章中提到,矩阵分解算法是一类嵌入方法,通过将用户行为矩阵分解为用户特征矩阵和标的物特征矩阵的乘积,最终将用户和标的物嵌入到低维空间中,通过用户特征向量和标的物特征向量的内积来计算用户对标的物的偏好。
AI科技大本营
2019/10/10
1.9K0
从0到1详解推荐系统中的嵌入方法,原理、算法到应用都讲明白了
图算法探索系列(一):图嵌入模型的原理和应用篇【万字长文】
点击上方蓝字,发现更多精彩 导语 本文梳理了近几年主流的图嵌入(Graph Embedding)模型,并辅以相应的工业界应用,旨在通过算法原理+业务应用的方式更好地帮助大家了解这一领域的发展历史和现状,也希望能为准备入坑Graph Embedding的同学提供一些有价值的信息。笔者个人水平有限,欢迎大家批评指正。 1. 概述与基础 图结构(Graph)广泛存在于现实各种应用场景中。比如社交媒体,用户之间的关注关系可以构成一个庞大的社交图网络;又比如推荐系统,用户对商品的购买、浏览和评分等行为可以抽象成用户
腾讯VTeam技术团队
2021/07/27
6.2K1
A Tutorial on Network Embeddings
NE 的中心思想就是找到一种映射函数,该函数将网络中的每个节点转换为低维度的潜在表示
超然
2018/10/11
1.2K0
A Tutorial on Network Embeddings
推荐阅读
相关推荐
TKDE 2018 | 图嵌入综述:问题、技术和应用
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档