googlenet提出的Inception结构优势、softmax的BP推导/交叉熵损失的BP推导

日萌社

人工智能AI:Keras PyTorch MXNet TensorFlow PaddlePaddle 深度学习实战(不定时更新)


googlenet提出的Inception结构优势有?

答案:AD

A、保证每一层的感受野不变,网络深度加深,使得网络的精度更高

B、使得每一层的感受野增大,学习小特征的能力变大

C、有效提取高层语义信息,且对高层语义进行加工,有效提高网络准确度

D、利用该结构有效减轻网络的权重


softmax的BP推导/交叉熵损失的BP推导

(1)Softmax 函数

(2)Softmax函数的导数:

因为输入多个x,输出多个y,那么对于任意y_i对x_j求导,i,j都属于K类别大小集合

(3)交叉熵损失的梯度计算如下:


Softmax函数的导数

交叉熵损失的梯度

发布了450 篇原创文章 · 获赞 151 · 访问量 23万+

猜你喜欢

转载自blog.csdn.net/zimiao552147572/article/details/105373547