Skip to content

LDS

Learning discrete structures for graph neural networks

  1. motivation: 现实当中的图往往充满噪声且数据不完整，现有的kNN方法可以解决不完整性的问题，但是图的创建和参数学习步骤是独立的，需要不断试错，因此作者希望通过近似求解学习图边缘离散概率分布来同时学习 图结构和 GNN 的参数，使得在不完整的损坏的图上也可以使用 GNN

  2. 主要增强方法: 基于学习边缘概率的图重连 LDS

    • 通过采样离散图结构来参数化元素级别的伯努利分布，将这一过程建模为学习边缘概率矩阵的问题来构造一个概率图模型(graph rewiring)

    • 将学习过程形式化为一个双层问题（bilevel programming），学习和更新图中节点之间的离散稀疏结构的同时训练 GNN 参数；

  3. 方法评价: 第一种同时学习更新图结构和 GNN 参数的框架，学习图的离散结构；但是 无法扩展到大数据集；LDS 目前只适用于transductive的设定；对图的采样策略复杂