为什么LR模型损失函数使用交叉熵不用均方差?

在这里插入图片描述

如果使用均方差作为损失函数

在这里插入图片描述
在这里插入图片描述
所以,如果当前模型的输出接近0或者1时,σ′(z)就会非常小,接近0,使得求得的梯度很小,损失函数收敛的很慢。

如果使用交叉熵作为损失函数

在这里插入图片描述

原文链接:为什么LR模型损失函数使用交叉熵不用均方差?

发布了149 篇原创文章 · 获赞 931 · 访问量 181万+

猜你喜欢

转载自blog.csdn.net/liuweiyuxiang/article/details/100812623
今日推荐