图神经网络-资料
前沿本专题是我专门开设的学习图神经网络的专题,最近处于学习的空档期,希望针对图和强化能够有一个较为深入的学习和了解,现在针对图神经网络给出当前查阅的一些资料,后面会给出总结和学习的记录。图神经网络的优势解决当前的主流神经网络无法解决提取图特征的问题,或者提取的特征效果不好的原因。图神经网络的图这里面的图指的是数据结构和离散数学中的图图神经网络的基本框架针对图数据,神经网络的目标是将目标转化为向量。
前沿
本专题是我专门开设的学习图神经网络的专题,最近处于学习的空档期,希望针对图和强化能够有一个较为深入的学习和了解,现在针对图神经网络给出当前查阅的一些资料,后面会给出总结和学习的记录。
图神经网络的优势
解决当前的主流神经网络无法解决提取图特征的问题,或者提取的特征效果不好的原因。
图神经网络的图
这里面的图指的是数据结构和离散数学中的图
图神经网络的基本框架
针对图数据,神经网络的目标是将目标转化为向量。
具体化为两个问题:
1.把什么转为向量?
2.怎么转化为向量?
分为三个层面的预测任务?
- 节点层面
- 边层面
- 图层面
梳理一下图嵌入,图神经网络,图卷积的关系
图神经网络一般指的是GNN和GCN。图嵌入则属于一个相对独立的领域。
图嵌入
- 节点分类
- 链接预测
- 聚类
- 可视化
方法主要分为三类:
- 基于因子的分解的方法
- 基于随机游走的方法
- 基于深度学习的方法
图嵌入发展较早,在早期是一个相对独立的领域。具体可以参考《图嵌入(Graph embedding)综述》:https://zhuanlan.zhihu.com/p/62629465。
图嵌入比较经典的是DeepWalk,基本思想类似词向量训练,具体可以参考《【论文笔记】DeepWalk》:https://zhuanlan.zhihu.com/p/45167021
图神经网络
学习思路:
许多 GNN 的介绍都用大篇幅去死磕 spectral based 的 GCN。但笔者认为这是本末倒置的行为,忽略了前沿工作里面的许多思想精华。Lecun 的 spectral GCN 是非常经典的工作,但是文章写得晦涩难懂,前置知识也太多,方法的实用性也不大。而且现在主流的方法都是以 spatial 为主的。所以建议初学者还是先学习 spatial 的 model,里面有很多做 DL 的人熟知的套路,接受起来也比较容易。等对整个领域建立起基本的 sense 之后,spectral GCN 以及其背后的 spectral graph theory 不失为一个继续深入的好选择。
经典工作
综述
- graph neural networks: a review of methods and applications
- Deep Learning on Graphs: A Survey
- A comprehensive survey on Graph Neural Networks
- 机器之心的解读
图卷积网络
GCN分为谱域GCN(Spectral)和空域GCN(Spatial),其中,谱域GCN发展较早,但主要思想基于图的信号处理,理论方面较难理解,很多初学者觉得图网络对数学要求较高,多半是直接从谱域GCN切入的。实际上对于图网络的初学者,建议可以先跳过谱域GCN,等对图网络有较好的理解后,再回过头来看谱域的GCN。
spatial GCN
- Learning Convolutional Neural Network for Graphs
- 论文笔记:Learning Convolutional Neural Network for Graphs
- PPT讲解:Learning Convolutional Neural Network for Graphs
spectral GCN
- Semi-Supervised Classification with Graph Convolutional Networks
- 阅读笔记:Semi-Supervised Classification with Graph Convolutional Networks
典型文章
- spam review dectection with graph convolutional networks
- abusive language detection with graph convolutional networks
参考链接:
更多推荐
所有评论(0)