深度学习——02、深度学习入门 8-14

08softmax分类器

sigmoid函数

在这里插入图片描述

softmax分类器:

Softmax的输出(归一化的分类概率)
归一化参见:python人工智能——机器学习——特征工程 5.数据的特征预处理

损失函数:交叉熵损失(cross-entropy loss)
在这里插入图片描述
在这里插入图片描述被称作softmax 函数
其输入值是一个向量,向量中元素为任意实数的评分值。

输出一个向量,其中每个元素值在0到1之间,且所有元素之和。

softmax分类的损失函数

在这里插入图片描述

损失函数对比

在这里插入图片描述

09最优化形象解读

结合人下山的方式考虑,找到一种下山最快的路径。

10梯度下降算法原理

在这里插入图片描述

跟随梯度

在这里插入图片描述

11反向传播

猜你喜欢

转载自blog.csdn.net/weixin_43336281/article/details/87554622