Dropout 丢弃法 动手学深度学习v2 pytorch

1. Dropout 丢弃法 定义

Dropout 只有在Traning的时候用,因为dropout类似于正则的作用。
常用在多层感知机的隐藏层上。
在predict的时候,是不需要的,因为predict是一个稳定的结果。
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

2. Dropout 从零开始实现

矩阵做乘法,效率高
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2. 简洁实现 pytorch

在这里插入图片描述
在这里插入图片描述

参考

https://www.bilibili.com/video/BV1Y5411c7aY?p=1

猜你喜欢

转载自blog.csdn.net/zgpeace/article/details/123912109