【学习笔记】WEEK2_Optimization algorithms_The problem of local optima

1、人们常常所担心的 梯度下降会陷入局部极小点 的问题是不正确的、在高维空间中，取而代之的是“鞍点（Saddle Point）”

    

2、“平原（Plateaus）”才是问题

    “平原”即 梯度 在很长一段时间内接近于 0，会降低 梯度下降 的速度

    

3、记住：

    1）在高维空间中、梯度下降不太容易陷入局部极小点

    2）平原 会导致训练速度变慢