当网络训练完成, 在推导的时候为了加速运算, 通常将卷积层和 batch-norm 层融合, 原理如下, caffe模型的转化可以参考pvanet的卷积层和 batch-norm融合
常规的神经网络连接结构

conv: \(y_{conv} = wx + b\)
bn:
\[ \begin{align*} y_{bn} &= \gamma \cdot \left (\frac{y_{conv} - mean}{\delta} \right)+\beta \\ &= \gamma \cdot \left (\frac{wx+b - mean}{\delta} \right)+\beta \\ \hat w &= \frac{\gamma}{\delta}\cdot w \\ \hat b &= \frac{\gamma}{\delta}\cdot \left({b - mean} \right)+\beta \\ y_{bn} &= \hat w \cdot x + \hat b \\ \end{align*} \]