Skip to content

Pro-GNN

Graph Structure Learning for Robust Graph Neural Networks

  1. motivation: 现有的 GNNs 容易受到精心设计的图数据的攻击,由现实中的图的低秩性和稀疏性,相邻节点的特征往往相似,因此作者希望借助这种特点(低秩性、稀疏性、特征平滑性)来实现图的清理,从而提升 GNNs 的鲁棒性

  2. 主要增强方法: 图的整体重连 Pro-GNN

    • 低秩性和稀疏性:通过1范数和核范数分别控制图的稀疏性和低秩性 $$ \mathcal{L}0 = \parallel A - S \parallel_F^2 + \alpha\parallel S \parallel_1 + \beta\parallel S \parallel, \text{s.t.} S = S^{\top} $$

    • 特征平滑性:相邻两点的特征应该相似 $$ \mathcal{L}s = tr(X^\top \hat{L} X) = \frac{1}{2}\sum^{N} S_{ij}(\frac{x_i}{\sqrt{d_i}} - \frac{x_j}{\sqrt{d_j}})^2, \hat{L} = D{-½}LD $$

    • 总体loss $$ \mathcal{L} = \mathcal{L}0 + \lambda \mathcal{L}_s + \mathcal{L}} $$

  3. 方法评价: 作者借助低秩性、稀疏性、特征平滑性有效的实现了图的清洗,相当于图的整体重连(graph rewiring),适用于噪声严重影响网络的拓扑结构,但是没有考虑扰动网络的节点属性的情况。