数学概念理解 - 梯度与方向导数

一.梯度

1. 定义：设函数在平面区域内具有一阶连续偏导数，则对于每一点，都可定出一个向量
                                 
   这向量称为函数=在点的梯度，记作，即
                        = 
2. 性质：梯度的方向是函数值增大最快的方向。相应的，负梯度的方向是函数值减小最快的方向。=> 梯度下降法求函数最值。

二.方向导数

1. 定义：设函数在点的某一邻域内有定义.自点引射线.设轴正向到射线的转角为（逆时针方向：0；顺时针方向：0），并设＇(+△,+△)为上的另一点且＇∈.我们考虑函数的增量(+△,+△)－与、＇两点间的距离的比值.当＇沿着趋于时，如果这个比的极限存在，则称这极限为函数在点沿方向的方向导数，记作，即
                                 (1)
   从定义可知，当函数在点的偏导数x、y存在时，函数在点沿着轴正向=，轴正向=的方向导数存在且其值依次为x、y，函数在点沿轴负向=，轴负向=的方向导数也存在且其值依次为-x、-y.
2. 定理  如果函数在点是可微分的，那末函数在该点沿任一方向的方向导数都存在，且有

                                                    (2)

其中为轴到方向的转角.