Graph Attention Network
但是这种方法在初始化的时候将所有的相邻节点看成是相同的，但是相邻节点的重要程度可能是不同的，因此引入了图注意力，为每条边引入一条权重项。
在下面的公式中，softmax是希望所有的权重之和为1。因此，公式的重点在于如何设计
图注意力计算方法很多，我们在这里只介绍一种方法
第一步，计算值
值的计算的一种方法是，将wh1和wh2相乘，得到的向量首先经过Leaky ReLU平滑，使负值更小一点，再经过softmax归一化操作
第二步，将值乘进邻接矩阵
我们可以将权重作用到邻接矩阵中，从而进行重构特征，需要注意的是，此时，需要将不是对应位置的权重mask掉
第三步，计算得到加权后的特征
然后，我们就可以得到加权后的特征了
Temporal Graph Neural Network
如果图跟时间有关系，该如何处理呢?
处理时间经典的方式是RNN，我们将RNN应用到时间序列相关的数据就可以处理与时间有关的图数据了
应用领域
主要是图数据随时间变化的图数据，比如道路交通流量预测，虽然整个图不会随时间而改变，但是每个结点的车流量等数据会随着时间而改变。
以道路交通流量预测为例：
首先，我们需要定义整个图的结构，每个结点包含哪些特征。
然后我们收集数据，比如说我们收集了3个时刻的数据
首先，我们将每一时刻的数据经过GCN进行特征提取
然后我们再将LSTM、GRU等序列网络引入到GCN中，即某一时刻的输入包括上一时刻的输出和本时刻的输入
核心就是考虑两个维度：时间，空间
T-GCN论文介绍:
时间图卷积网络。
T-GCN模型集成了图卷积网络和门控递归单元。利用图卷积网络捕获路网拓扑结构，对路网的空间依赖性进行建模。利用门控递归单元捕获道路交通数据的动态变化，对时间依赖性进行建模。T-GCN模型也可应用于其它时空预测任务。
）T-GCN模型的预测结果表明，在不同的预测水平下，T-GCN模型处于稳定状态，这说明T-GCN模型不仅可以实现短期预测，还可以用于长期的交通预测任务（15分钟30分钟45分钟60分钟）。
使用两个真实的交通数据集来评估方法。结果表明，与所有基线方法相比，该方法的预测误差降低了约1.5%-57.8%，证明了T-GCN模型在交通预测方面的优越性。
无论预测时长范围如何，T-GCN模型总能取得较好的预测结果。T-GCN模型可以捕获道路交通信息的时空特征，得出了道路交通信息的变化趋势。此外，T-GCN模型检测到交通高峰期的开始和结束时间，并与实际交通速度做出相似的预测结果。这些性质有助于预测交通拥挤和其他交通现象。