【证明】【一题多解】—— 负梯度方向的证明

1. 一节泰勒展开

• 负梯度方向即为（以矢量形式为例）：$\bf{d_k}=-g(x_k)$

  $$f({x_k}+\lambda d_k)\approx f(x_k)+\lambda g^T(x_k)d_k$$
  • 由矢量相乘的 $a\cdot b=a^Tb=\|a\|\|b\|\cos \theta$，可知 $g^T(x_k)d_k\geq -g^T(x_k)d_k$（$d_k$与$g(x_k)$同向时，即两者呈180°，互为反方向，等号取得）