一、Jacobian矩阵
包含偏导数矩阵被称为Jacobian矩阵。f的Jacobian矩阵定义为：。
二、Hessian矩阵
Hessian是二阶导数矩阵，定义为：，Hessian矩阵是对称的。
将进行二阶泰勒级数展开：
二阶导数小于0，代表一阶导数即斜率是递减的，斜率会随着x变化减小，大于0同理。
根据二阶导数判断极大点、极小点、鞍点：
当，且
时，x是一个局部极小点
当，且
时，x是一个局部极大点
当，且
时，x可能是鞍点或者平坦区域部分
根据Hessian矩阵判断：
当海森矩阵是正定的(即所有特征值都是正的)，则该临界点是极小点
当海森矩阵是负定的(即所有特征值都是负的)，则该临界点是极大点
当海森矩阵特征值中至少一个是正的且至少一个是负的，某些情况下是鞍点