机器学习储备(4):最常用的求导公式

求导公式在机器学习的梯度下降中经常使用,因为梯度就意味着要求导,所以将使用频率最高的几个公式罗列在下面,方便查阅。

其中第三个是第二个的特列

求导比较重要的一条性质便是链式求导法则,它其实并不难理解,因为求导数意味着由外及内的,一层一层地将变化传递到最里头。

例如,要求解 

这个由一个实例和一个特征项组成的特殊的最小二乘项的导数,要令,即先对 的平方求导数,然后再对求导数,结果应该为-

猜你喜欢

转载自my.oschina.net/u/3994209/blog/2872852
今日推荐