Skip to content

Dropedge

Dropedge: TOWARDS DEEP GRAPH CONVOLUTIONAL NETWORKS ON NODE CLASSIFICATION

  1. motivation：为了解决GCNs层数过深时的过拟合和过平滑问题，作者提出dropedge，在训练过程输入图中随机去掉一些边

  2. 主要增强方法：随机去除图数据中的边；

    \[ A_{drop} = A - A^\prime \]

    其中\(A^\prime\) 是一个按照一定比例 \(p\) 去除图中的边的随机子集的对应的稀疏的邻接矩阵，在每个训练的epoch，输入层会通过该方法随机去除边，从而缓解过拟合；还可以采用GNNs的每一层都dropedge的方法，缓解过平滑问题

  3. 方法评价：dropedge 利用随机性来实现去边，无需进行过多的计算开销，简单高效的数据增强手段；相较于对于节点进行增删的数据增强手段，dropedge 可以更好地保留节点特征从而达到好的效果；但是dropedge 去边的方法是随机的，后续研究可以加入一些选择策略，如依据节点的度等等按不同权重去除边，从而加速模型的收敛；另外，图中不仅删除边，还可以增加潜在边，从而丰富增强图数据