1、在训练时每次 Batch Norm 只需处理一个 mini-batch(m 个)、而在测试时需要一次处理整个(1个)测试集
所以采用 Exponentially Weighted Average(指数加权平均)的方法追踪 μ 与 σ**2 并用于测试
1、在训练时每次 Batch Norm 只需处理一个 mini-batch(m 个)、而在测试时需要一次处理整个(1个)测试集
所以采用 Exponentially Weighted Average(指数加权平均)的方法追踪 μ 与 σ**2 并用于测试