局部最优,局部最小

改善方法:
1.多次随机初始值,比较最小值

2.模拟退火算法,

3.随机梯度下降,我们知道梯度下降能找出局部最小值，而随机梯度下降在与其相比较的时候加入了一个随机的因素，这样即使落入了局部最小值，但是他的梯度可能并不为0。因为使用梯度下降的时候，在落入局部最小值时，计算的梯度是为0的，但是使用随机梯度下降，就保留了落入局部最小值时梯度不为0的可能，这样他就有机会跳出局部最小值了