作者：桂。
时间：2018-07-26 06:39:45
链接：https://www.cnblogs.com/mia1004/p/9369587.html
一、非线性模型
模型：
考虑到 = 等价于 >= & <=，上面式子可改写为：
对于可导的准则函数，极值点通常在导数为0或边界处，对于无约束情形：
1）极值点必要条件
2）充分条件
其中H为海森矩阵。
可以看到充分条件等价为H为正定，正定的判定可借助：所有主子式都大于0
当符号取反，则验证负定，原理相同。
二、凸规划
凸函数与凹函数
当然也存在非凸非凹
A-凸函数的意义
首先要明白，为什么需要凸函数。因为对于凸规划，极小值点就是最小值点。而不像一般的优化问题，可能极小值点仅仅是局部极小值点，而不是全局极小值点（最小值点）。
B-如何判定凸函数
明白了凸函数的意义，则需要运用它。面临的一个问题是：如何判定一个函数是不是凸函数。
判据1：
判据2：
C-凸规划
考虑非线性规划：
三、无约束问题的求解
1）极值点的求解：直接求解。 对于准则函数复杂的情形，可借助梯度下降（各类不同的下降思路，只是收敛速度不同）；
2）判断是否为凸规划问题，若是，则极值点对应最值点。
该类求解，通常需要编程具体问题具体分析。