【学习笔记】吴恩达老师《深度学习工程师》五

第五课 导数

这一节,吴老师用很好理解的方式介绍了导数,对于中国学生来说导数没有问题,老师讲解的方式很新颖。


首先假设f(a)=3a,当a取2,f(a)=6,;这时稍微增大一下a的值,比如取2.001,此时f(a)=6.003,可见a增大0.001,f(a)增大0.003,是a增量的3倍,这里斜率就是3。(这种讲解方法简单易懂,o( ̄▽ ̄)d)

再比如f(a)=a²,当a=2,f(a)=4;将a取为2.001,f(a)=4.004,增大4呗;当a=5,f(a)=25,同样增大0.001,f(a)变为25.010(f(a)增大都为近似值),不难发现,此时导数值好像是2a,与标准公式不谋而合(-_-||)。

第六课 计算图

老师例举J(a,b,c)=3(a+bc),令bc=u,a+bc=v,引入中间变量。通过中间变量引入计算图的概念:


通过计算图举例说明Forward propagation前向传播,和Back propagation反向传播。

所谓FP,就是给每一个变量赋值,然后就算出最后的函数值。

而BP,通过最后的函数结果,反向计算每一个中间变量对应的常数值。

例如y=wx+b,FP就是给了w,b计算y。 而BP,是计算w和b的值。

这里老师计算了导数值。

猜你喜欢

转载自blog.csdn.net/yourgreatfather/article/details/80190074
今日推荐