VGG Net

image - mean_pixel的操作是必须的么?有什么优点?

(非必要操作、先验操作、加快收敛)

训练的时候减均值相当于加了一个先验,就是网络的输出对于图像整体亮度的改变具有不变性。也就是说,这样假设输入图像像素整体加上常数之后预测结果不变。这个先验在大部分任务上都是成立的,比如物体分类,物体分割等。好处是可以作为一种正则化,减少网络的学习负担,加快收敛。所以通常训练都会使用减均值的操作。只有当任务与整体亮度相关的时候,减均值才可能出现问题,比如训练一个网络来估计亮度。

inference的时候,因为你使用的pretrain网络在训练的时候已经减了均值,你在inference的时候为了与训练保持一致,所以也得减均值。
另外,在有了batch normalization之后,减均值的操作并不是必要的。

猜你喜欢

转载自blog.csdn.net/li_yi_chao/article/details/80254922
VGG