由于疫情在家，基本没有什么事情干。在看看论文在CVPR2020中我看到了一篇比较有趣的论文，大家在跑CNN网络的时候，如果你去看一下不同通道的特征图，你会发现有一些特征图很类似，用肉眼看大家也不会觉得有什么区别。当时对于我们这些小菜鸟来说，这也没有什么问题，只要我们要的结果出来就好，准确度上去就可以了。我们也不会去在意这些事，这个时候我们就和大牛体现出差距了，大牛观察到这些问题，想到这些什么原因，怎么解决。在CVPR2020的这篇论文GhostNet: More Features from Cheap Operations。可以看到作者发现了这个特性，并加以了利用。
在上面这幅图中我们可以看到许多类似的特征图，上图来自论文中。这个时候作者想到可以不可人工合成这些特征，通过一些简单的线性变换得到这些特征呢，这样大大减小了整个网络的运算量。作者先利用卷积生成一组特征，然后利用这一小部分特征做简单变换得到另一组特征（作者把这个简单变换后的特征叫做原始特征的鬼魂或者幽灵，我也不知道他为啥取这个名字），在将这两组特征串联，这样就实现了增加特征通道数，又不增加过多的卷积运算的效果。
这里的思路是很巧妙的，有时候不得不佩服大牛们的想法。一些我们习以为常的现象他们把直接用上了。
