《深度学习入门》读书笔记3:神经网络的学习

神经网络的特征就是可以从数据中学习。所谓“从数据中学习”,是指可以由数据自动决定权重参数的值。这是非常了不起的事情!因为如果所有的参数都需要人工决定的话,工作量就太大了。

代价函数

参数选得好不好,那就要看代价函数,我们通过不断尝试不同的参数,使得代价函数尽量最小,这个代价函数可以使用任意函数,但一般用均方误差和交叉熵误差等

代价函数是表示神经网络性能的“恶劣程度”的指标,即当前的
神经网络对监督数据在多大程度上不拟合,在多大程度上不一致。

我们需要求出代价函数的最低点(也就是参数值),或者是局部最低点

发布了178 篇原创文章 · 获赞 140 · 访问量 2万+

猜你喜欢

转载自blog.csdn.net/qq_42146775/article/details/104544172