论文：https://arxiv.org/pdf/2010.03045.pdf
本文提出了可以有效解决跨维度交互的triplet attention。相较于以往的注意力方法，主要有两个优点：
1.可以忽略的计算开销
2.强调了多维交互而不降低维度的重要性，因此消除了通道和权重之间的间接对应。
传统的计算通道注意力的方法为了计算这些通道的权值，输入张量在空间上通过全局平均池化分解为一个像素。这导致了空间信息的大量丢失，因此在单像素通道上计算注意力时，通道维数和空间维数之间的相互依赖性也不存在。后面提出基于Spatial和Channel的CBAM模型缓解了空间相互依赖的问题，但是通道注意和空间注意是分离的，计算是相互独立的。基于建立空间注意力的方法，本文提出了跨维度交互作用(cross dimension interaction)的概念，通过捕捉空间维度和输入张量通道维度之间的交互作用，解决了这一问题。
