前沿

本专题是我专门开设的学习图神经网络的专题,最近处于学习的空档期,希望针对图和强化能够有一个较为深入的学习和了解,现在针对图神经网络给出当前查阅的一些资料,后面会给出总结和学习的记录。

图神经网络的优势

解决当前的主流神经网络无法解决提取图特征的问题,或者提取的特征效果不好的原因。

图神经网络的图

这里面的图指的是数据结构和离散数学中的图

图神经网络的基本框架

针对图数据,神经网络的目标是将目标转化为向量。
具体化为两个问题:
1.把什么转为向量?
2.怎么转化为向量?
分为三个层面的预测任务?

  • 节点层面
  • 边层面
  • 图层面

梳理一下图嵌入,图神经网络,图卷积的关系

图神经网络一般指的是GNN和GCN。图嵌入则属于一个相对独立的领域。

图嵌入

  • 节点分类
  • 链接预测
  • 聚类
  • 可视化

方法主要分为三类:

  • 基于因子的分解的方法
  • 基于随机游走的方法
  • 基于深度学习的方法

图嵌入发展较早,在早期是一个相对独立的领域。具体可以参考《图嵌入(Graph embedding)综述》:https://zhuanlan.zhihu.com/p/62629465

图嵌入比较经典的是DeepWalk,基本思想类似词向量训练,具体可以参考《【论文笔记】DeepWalk》:https://zhuanlan.zhihu.com/p/45167021

图神经网络

学习思路:
许多 GNN 的介绍都用大篇幅去死磕 spectral based 的 GCN。但笔者认为这是本末倒置的行为,忽略了前沿工作里面的许多思想精华。Lecun 的 spectral GCN 是非常经典的工作,但是文章写得晦涩难懂,前置知识也太多,方法的实用性也不大。而且现在主流的方法都是以 spatial 为主的。所以建议初学者还是先学习 spatial 的 model,里面有很多做 DL 的人熟知的套路,接受起来也比较容易。等对整个领域建立起基本的 sense 之后,spectral GCN 以及其背后的 spectral graph theory 不失为一个继续深入的好选择。
经典工作

综述

图卷积网络

GCN分为谱域GCN(Spectral)和空域GCN(Spatial),其中,谱域GCN发展较早,但主要思想基于图的信号处理,理论方面较难理解,很多初学者觉得图网络对数学要求较高,多半是直接从谱域GCN切入的。实际上对于图网络的初学者,建议可以先跳过谱域GCN,等对图网络有较好的理解后,再回过头来看谱域的GCN。

spatial GCN

spectral GCN

典型文章

参考链接:

EddyLiu 图神经网络入门

Logo

技术共进,成长同行——讯飞AI开发者社区

更多推荐