1. 介绍
我们知道，在对图像执行卷积操作时，如果不对图像边缘进行填充，卷积核将无法到达图像边缘的像素，而且卷积前后图像的尺寸也会发生变化，这会造成许多麻烦。
因此现在各大深度学习框架的卷积层实现上基本都配备了padding操作，以保证图像输入输出前后的尺寸大小不变。例如，若卷积核大小为3x3，那么就应该设定padding=1，即填充1层边缘像素；若卷积核大小为7x7，那么就应该设定padding=3，填充3层边缘像素；也就是padding大小一般设定为核大小的一半。在pytorch的卷积层定义中，默认的padding为零填充。
self.conv = nn.Conv2d(in_channels=3, out_channels=3, kernel_size=7, padding=3)
2. padding的种类及其pytorch定义
padding，即边缘填充，可以分为四类：零填充，常数填充，镜像填充，重复填充。
2.1 零填充
对图像或者张量的边缘进行补零填充操作：
class ZeroPad2d(ConstantPad2d):
# Pads the input tensor boundaries with zero.
def __init__(self, padding):
super(ZeroPad2d, self).__init__(padding, 0)
2.2 常数填充
定义一个常数来对图像或者张量的边缘进行填充，若该常数等于0则等价于零填充。
class ConstantPad2d(_ConstantPadNd):
# Pads the input tensor boundaries with a constant value.
def __init__(self, padding, value):
super(ConstantPad2d, self).__init__(value)
self.padding = _quadruple(padding)
2.3 镜像填充
对图像或者张量的边缘进行镜像对称的填充，示例如下：
>>> m = nn.ReflectionPad2d(2)
>>> input = torch.arange(9).reshape(1, 1, 3, 3).float()
>>> input
(0 ,0 ,.,.) =
0 1 2
3 4 5
6 7 8
[torch.FloatTensor of size (1,1,3,3)]
>>> m(input)
(0 ,0 ,.,.) =
8 7 6 7 8 7 6
5 4 3 4 5 4 3
2 1 0 1 2 1 0
5 4 3 4 5 4 3
8 7 6 7 8 7 6
5 4 3 4 5 4 3
2 1 0 1 2 1 0
class ReflectionPad2d(_ReflectionPadNd):
# Pads the input tensor using the reflection of the input boundary.
def __init__(self, padding):
super(ReflectionPad2d, self).__init__()
self.padding = _quadruple(padding)
2.4 重复填充
对图像或者张量的边缘进行重复填充，就是说直接用边缘的像素值来填充。示例如下：
>>> m = nn.ReplicationPad2d(2)
>>> input = torch.arange(9).reshape(1, 1, 3, 3).float()
>>> input
(0 ,0 ,.,.) =
0 1 2
3 4 5
6 7 8
[torch.FloatTensor of size (1,1,3,3)]
>>> m(input)
(0 ,0 ,.,.) =
0 0 0 1 2 2 2
0 0 0 1 2 2 2
0 0 0 1 2 2 2
3 3 3 4 5 5 5
6 6 6 7 8 8 8
6 6 6 7 8 8 8
6 6 6 7 8 8 8
[torch.FloatTensor of size (1,1,7,7)]
class ReplicationPad2d(_ReplicationPadNd):
# Pads the input tensor using replication of the input boundary.
def __init__(self, padding):
super(ReplicationPad2d, self).__init__()
self.padding = _quadruple(padding)
3. 实际应用
在许多计算机视觉任务中，例如图像分类，zero padding已经能够满足要求。但是不结合实际地乱用也是不行的。比方说，在图像增强/图像生成领域，zero padding可能会导致边缘出现伪影，如下所示：
这时候，可以改用镜像填充来代替零填充操作。我们定义一个新的padding层，然后把卷积层里的padding参数置为0.
具体写法如下：
class DEMO(nn.Module):
def __init__(self):
super(DEMO, self).__init__()
self.pad = nn.ReflectionPad2d(1)
self.conv = nn.Conv2d(in_channels=3, out_channels=3, kernel_size=3, padding=0)
def forward(self, x):
x = self.pad(x)
x = self.conv(x)
return F.relu(x)
以低光照增强任务为例，最终对比效果如下图。零填充会产生边缘伪影，而镜像填充很好地缓解了这一效应。
扫描二维码关注公众号，回复：
13398224 查看本文章
