CNN笔记

0915(未完全查正)

keepdropout=0.5,保留50%的隐含节点。keepdropout=1,保留全部的隐含节点,在计算准确率时使用。

一般的,relu函数用于深网络,数据量大,它是保留大于0的数据,映射到【0,1】,有利于解决梯度消失问题。sigmoid函数用于浅网络,数据量小,映射到【-1,1】,但可能会出现梯度消失。

loss函数计算:tf.nn.l2_loss(权重)。alpha*tf.nn.l2_loss()前的系数alpha可以调整正则化。

tf.train.AdamOptimizer(学习率learning rate).minimize(损失loss)

没有了conv2d,maxpool,CNN就是多层感知机DNN


猜你喜欢

转载自blog.csdn.net/ciyiquan5963/article/details/77988587
CNN