Red de atención gráfica GAT

Derivación de la red convolucional gráfica

Este enlace es el proceso de derivación.

REVÓLVER

En resumen, la red es la matriz de adyacencia del gráfico de la FIG de enfoque borrosa , borrosa adaptativamente.

En términos simples, el proceso consiste en incorporar nuevas muestras obtenidas a través de la transformación de la red, unirlas en pares e ingresarlas en la red para calcular el coeficiente de atención.

• Los datos de entrada son $X\in R^{N\ast F}$，$F$ es la dimensión de la característica,$N$ es el número de muestras.

• La característica de salida es $H\in R^{N\ast f}$ , la salida final es$Y\in R^{N\ast C}$ ,$C$ es el número total de categorías.

• 令$W\in R^{F\ast f}$ es la matriz de ponderaciones de la red gráfica, que se puede generalizar como una transformación de mapeo.

• 令$un\in R^{2f\ast 1}$ es la matriz de ponderaciones para calcular el coeficiente de atención entre muestras El mecanismo de atención a es una red neuronal feedforward de una sola capa, que puede modificarse y promoverse.

El proceso detallado es el siguiente:

1. Transforme los datos de entrada para obtener una nueva incorporación, $h=XW,h\in R^{N\ast f}$
2. Combine las muestras en pares para obtener $a\_input\in R^{N\ast N\ast 2f}$
3. 将$a\_input\; se$ ingresa en la red, y la matriz de coeficientes$mi=a\_input\ast una,mi\in R^{N\ast N}$
4. De acuerdo con la matriz de adyacencia, mantenga los coeficientes de la posición distinta de cero de la matriz de adyacencia y reemplace el resto con una constante mínima.
5. Después de $SOFTmA$ Matriz normalizada de$X$ filas para prestar atención$attention$
6. 计算$H=\delta (attention\ast h),H\in R^{N\ast f}$ es la suma ponderada de la nueva incorporación de la muestra obtenida después del cambio y otras muestras.
7. Si hay m atenciones de múltiples cabezales, vuelva a 1, intercambie m veces y empalme para obtener $\hat{H}\in R^{N\ast mf}$
8. Finalmente, la salida de múltiples cabezales empalmados se ingresa nuevamente en la red de atención, pero los pesos $W,es$ necesario cambiar el tamaño de$W\in R^{mf\ast C}$，$un\in R^{2C\ast 1}$ , el proceso es el mismo que 1-6, y la salida final$Y\in R^{N\ast C}$

La siguiente fórmula expresa el significado del proceso.

código de versión de pytorch

enlace

class GraphAttentionLayer(nn.Module):
    """
    Simple GAT layer, similar to https://arxiv.org/abs/1710.10903
    """
    def __init__(self, in_features, out_features, dropout, alpha, concat=True):
        super(GraphAttentionLayer, self).__init__()
        self.dropout = dropout
        self.in_features = in_features
        self.out_features = out_features
        self.alpha = alpha
        self.concat = concat

        self.W = nn.Parameter(torch.empty(size=(in_features, out_features)))
        nn.init.xavier_uniform_(self.W.data, gain=1.414)
        self.a = nn.Parameter(torch.empty(size=(2*out_features, 1)))
        nn.init.xavier_uniform_(self.a.data, gain=1.414)

        self.leakyrelu = nn.LeakyReLU(self.alpha)

    def forward(self, h, adj):
        Wh = torch.mm(h, self.W) # h.shape: (N, in_features), Wh.shape: (N, out_features)
        a_input = self._prepare_attentional_mechanism_input(Wh)
        e = self.leakyrelu(torch.matmul(a_input, self.a).squeeze(2))

        zero_vec = -9e15*torch.ones_like(e)
        attention = torch.where(adj > 0, e, zero_vec)
        attention = F.softmax(attention, dim=1)
        attention = F.dropout(attention, self.dropout, training=self.training)
        h_prime = torch.matmul(attention, Wh)

        if self.concat:
            return F.elu(h_prime)
        else:
            return h_prime