Batch normalization和Instance normalization 在域适应问题中的的作用

最近在研究域适应的问题,也是为了解决,医学图像中,数据量不足的问题。我的想法是使用域适应的方法来进行分割。

在研究这个问题的时候我发现,原来我一直认为的BN算法也是可以应用到域适应这个方面的。其实在域适应这个问题之前还有一个IN算法在风格迁移问上有着广泛的应用。这两个有什么区别呢。我在知乎上面看到一个很好的一个总结。

BN和IN其实本质上是同一个东西,只是IN是作用于单张图片,但是BN作用于一个batch。但是为什么IN还会被单独提出,而且在Style Transfer的这个任务中大放异彩呢?简言之,这背后的逻辑链是这样的:
1. 通过调整BN统计量,或学习的参数beta和gamma,BN可以用来做domain adaptation。
2. Style Transfer是一个把每张图片当成一个domain的domain adaptation问题。

这个总结的非常好。

Batch normalization和Instance normalization的对比?

发布了88 篇原创文章 · 获赞 55 · 访问量 16万+

猜你喜欢

转载自blog.csdn.net/nijiayan123/article/details/103821822
今日推荐