李宏毅 深度学习 -2017-backpropagation

前馈神经网络与回馈神经网络 如何求得L(w,b)/w的偏微分呢?进而通过反馈神经网络求的更新的weight和bias进行下一次的迭代:

在这里插入图片描述
**

第一步:明确微积分求导法则(Chain Rule)

**
在这里插入图片描述
**

第二步:从output layer开始进行往前迭代,一直迭代到weight

**
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/zjguilai/article/details/89974935
今日推荐