八、图神经网络基础【CS224W】(Datawhale组队学习)

请添加图片描述

开源内容:https://github.com/TommyZihao/zihao_course/tree/main/CS224W

子豪兄B 站视频:https://space.bilibili.com/1900783/channel/collectiondetail?sid=915098

斯坦福官方课程主页:https://web.stanford.edu/class/cs224w

前言

  • 机器学习 = 数据挖掘 = 人工智能
  • 深度学习:使用深度神经网络进行机器学习
  • 图深度学习:使用深度学习对图进行机器学习
  • 图深度学习 = 图神经网络

深度学习基础

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

监督学习

在这里插入图片描述

损失函数

在这里插入图片描述
在这里插入图片描述

随机梯度下降

  • iteration = step= 输入一个mini batch = 一次迭代 = 一步
  • epoch = 一轮 = 完整遍历训练集的所有样本一遍

在这里插入图片描述
在这里插入图片描述

反向传播

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

图神经网络简介

图表示学习的发展历史

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

图神经网络

在这里插入图片描述

图滤波操作

在这里插入图片描述

通用的GNN框架(节点任务)

在这里插入图片描述

图池化操作

在这里插入图片描述

通用的GNN框架(图任务)

在这里插入图片描述

谱图论

拉普拉斯矩阵作为算子

在这里插入图片描述

拉普拉斯矩阵的特征分解

在这里插入图片描述

特征向量作为图上的信号

在这里插入图片描述

图傅立叶变换(GFT)

在这里插入图片描述
在这里插入图片描述

图滤波

两大类图滤波操作

在这里插入图片描述

最早的图滤波操作

在这里插入图片描述

图谱滤波

在这里插入图片描述
在这里插入图片描述

将图谱滤波运用到GNN上

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

GCN-Filter: 简化的Cheb-Filter

在这里插入图片描述

处理多通道图信号的GCN-Filter

在这里插入图片描述

从空间域理解GCN-Filter

在这里插入图片描述
GraphSage-Filter
在这里插入图片描述
ECC-Filter
在这里插入图片描述
GGNN-Filter
在这里插入图片描述
MPNN
在这里插入图片描述
PPNP
在这里插入图片描述
APPNP
在这里插入图片描述

在这里插入图片描述
一些滤波操作的简单回顾
在这里插入图片描述

从图信号降噪的角度理解GCN-Filter

在这里插入图片描述
在这里插入图片描述
从图降噪角度理解PPNP
在这里插入图片描述
在这里插入图片描述
从图降噪角度理解GCN
在这里插入图片描述
在这里插入图片描述
从图降噪角度理解GAT
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
一个统一的理解
在这里插入图片描述
一个统一的框架: UGNN
在这里插入图片描述

利用UGNN设计新的图滤波操作
在这里插入图片描述
Graph Trend Filtering
在这里插入图片描述

图池化

图池化操作

在这里插入图片描述

通用的GNN框架(图任务)

在这里插入图片描述

平面池化

在这里插入图片描述

平均池化和最大池化

在这里插入图片描述

添加虚拟节点进行池化

在这里插入图片描述

基于注意力机制的平面池化

在这里插入图片描述

层次图池化操作

在这里插入图片描述
gPool
在这里插入图片描述
SAGPool
在这里插入图片描述
DiffPool
在这里插入图片描述
在这里插入图片描述
Eigenpooling
在这里插入图片描述
通过傅立叶变换得到
在这里插入图片描述
在这里插入图片描述

用傅立叶系数作为特征
在这里插入图片描述

用截断傅立叶系数作为特征
在这里插入图片描述

总结

本文主要回顾了一下深度学习的相关知识,先从总体上对图神经网络进行了简要介绍,图表示学习从数据降维发展到图嵌入到图神经网络。图神经网络需要一些谱图论的知识,因此本文又介绍了谱图论的相关知识,包括拉普拉斯矩阵和傅里叶变化等。最后介绍了图神经网络中常见的两种操作:图滤波和图池化。

猜你喜欢

转载自blog.csdn.net/qq_46378251/article/details/129301820