通过MXnet理解LayerNorm,InstanceNorm

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/TH_NUM/article/details/85069076

LayerNorm:

可以看一下MXnet的函数定义:
在这里插入图片描述
使用函数LayerNorm:
在这里插入图片描述

使用公式计算:
在这里插入图片描述

InstanceNorm

先看一下Mxnet的函数定义:
在这里插入图片描述

使用InstanceNorm计算:
在这里插入图片描述
使用公式计算:
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/TH_NUM/article/details/85069076