空間的注意

空間的注意

チャネルの注意はチャネルに重みを付けることであり、空間の注意は空間に重みを付けることです

個人の再識別のためのパラメータのない空間的注意ネットワーク

フィーチャマップはチャネルを合計してH * Wマトリックスを取得し、次にreshape、softmax、およびreshapeがアテンションマトリックスを取得します。

CBAM：畳み込みブロック注意モジュール

チャネル注意と空間注意の両方があります

チャネル注意

空間注意

class SpatialAttentionModule(nn.Module):
    def __init__(self):
        super(SpatialAttentionModule, self).__init__()
        self.conv2d = nn.Conv2d(in_channels=2, out_channels=1, kernel_size=7, stride=1, padding=3)
        self.sigmoid = nn.Sigmoid()

    def forward(self, x):
        avgout = torch.mean(x, dim=1, keepdim=True)
        maxout, _ = torch.max(x, dim=1, keepdim=True)
        out = torch.cat([avgout, maxout], dim=1)
        out = self.sigmoid(self.conv2d(out))
        return out