无穷视野图滤波器--GPFN，从频域和空域的视角分析

论文标题：Infinite-Horizon Graph Filters: Leveraging Power Series to Enhance Sparse Information Aggregation

作者：Ruizhe Zhang, Xinke Jiang, Yuchen Fang, Jiayuan Luo, Yongxin Xu, Yichen Zhu, Xu Chu, Junfeng Zhao, Yasha Wang

机构：北京大学，多伦多大学

TL; DR：提出了一种创新的图神经网络（GNN）架构——图幂级数滤波神经网络（Graph Power Filter Neural Network, GPFN），旨在通过利用幂级数增强稀疏信息的聚合，从而提升GNN在稀疏图上的性能。

Arxiv链接：https://arxiv.org/abs/2401.09943v2

GNN面临的技术挑战与GPFN的解决方案

技术挑战

• 有限的感受野：现有GNN模型的感受野受限，难以捕获图中远距离节点间的依赖关系。
• 稀疏图的挑战：真实世界图的度分布通常遵循幂律分布，绝大部分是稀疏图上，由于边的数量较少，GNN难以学习到有效的节点表示。如下图所示，当图的稀疏度上升时，一般GNN的表现会迅速下降。

GPFN的解决方案

为了应对这些挑战，论文提出了图幂级数滤波神经网络（GPFN），这是一种新颖的GNN架构，它使用基于幂级数的图滤波器来增强节点分类任务。GPFN的关键特性包括：

1. 灵活的图滤波器设计：GPFN允许研究者根据需要设计不同类型的图滤波器，如低通、高通或带通滤波器，在谱域上展示了其广泛的适用性和适应性，大多数多项式滤波器可以被看做是GPFN的特殊形式。
2. 无限信息聚合：GPFN利用幂级数的无限扩展能力，设计了具有无限感受野的图滤波器，增强了对长距离依赖的捕获能力，在空间域上作为一个无限信息聚合器，有效聚合了跨越无限跳数的邻居信息。
3. 理论证明：GPFN提供了谱域和空间域的双重分析，证明其拥有无限感受野，且证明了相较于以往工作GPFN能更好的抵抗过平滑问题。

GPFN框架的核心设计

在谱域中，GPFN的图滤波器可以表示为

其中

是聚合矩阵，

是滤波器系数。

文章整理了包括相关工作在内的滤波器表达式，并在文章中详细说明了如何选取

和参数来

调整滤波器类型和特征值范围。

滤波器

GPFN整体的框架图如下：

GPFN

对于稀疏图的聚合矩阵A，GPFN通过选择合适的

与

，在谱域上实现了相应的滤波器，在空域上完成了无限聚合信息的功能。

同时，文章在4.4节中详细解释了其他多项式滤波器如GPR-GNN、APPNP是如何被纳入到GPFN框架中，作为有限感受野的特殊形式存在的。

实验

1. 数据集：GPFN在cora citeseer和Amazon Computer三个经典图数据集上进行了测试，同时构造出不同稀疏度的图数据进行测试。
2. 基准模型：与当前最先进的GNN模型进行了比较，如GPRGNN、APPNP、BerNet、GCNII、HiGNN等。

实验结果

• GPFN在所有数据集上的性能均超过了基线模型，特别是在稀疏图上的表现尤为突出，实验结果证明了GPFN在处理长距离依赖和稀疏图方面的优势。

实验结果

文章也对超参数

进行了敏感性分析

同时，实验证明当GNN层数增加时，GPFN的性能下降速度比其他模型慢，这表明GPFN可以更有效地减轻过平滑问题。

除此之外，文章还通过案例分析展示了不同图滤波器对高频信号的过滤效果，进一步证明了GPFN框架的灵活性和可解释性

实际应用与未来展望

GPFN框架为图学习领域提供了一个强大的工具，特别是在处理稀疏图和长距离依赖关系方面。通过在不同的图学习任务上进行广泛的实验，GPFN的有效性得到了验证。实验结果表明，GPFN能够显著提升GNN在稀疏图上的性能，并避免GNN在层数增加的时候陷入过平滑问题。尽管如此，如何进一步构造效率更高的滤波器和扩展到更复杂的图结构，仍然是未来研究的重要方向。

欢迎各位作者投稿近期有关时空数据和时间序列录用的IJCAI、SIGIR、ICML以及KDD等顶级会议和期刊的优秀文章解读，我们将竭诚为您宣传,共同学习进步。如有意愿,请通过后台私信与我们联系。

如果觉得有帮助还请分享，在看，点赞