吴恩达深度学习（四）——一文搞懂梯度下降算法

目录

通俗解释梯度下降

什么是梯度

梯度下降的数学解释

---

上一章学习了什么是损失函数，可以看出损失函数的大小决定模型的精确程度。损失函数值越大，说明模型预测的越不准确，损失函数越小，说明模型预测的越准确。

我们当然期望损失函数值越小越好，那么通过什么方法能够使损失函数值达到最小呢？这里就要引出梯度下降算法（Gradient Descent）。

通俗解释梯度下降

先从一个生活中的例子出发，通俗的解释一下什么是梯度下降算法：

你可以想象一下，从前有座山，山里有座庙，咳咳，跑题了。假设在山顶上有一个盲人，此时这个盲人要下山，山上天气还不好，而且下山的路径还无法确定，这个盲