本文不做数学推导,从物理意义上讲解拉格朗日乘子法。
原问题
我们要解决带有等式约束的最优化问题。为方便书写,以二维函数为例:
用下图表示这个问题。
我们要找
问题转换
Step 1
求解上述问题等价于:
找到
g(x,y)=0 上的一点,这一点处g(x,y)=0 和该点f(x,y) 的等高线相切。
可以用反例直观地理解。如果
Step 2
更进一步,这一条件等价于:
找到
g(x,y)=0 上的一点,这一点g(x,y)=0 和f(x,y)=d 的梯度共线。扫描二维码关注公众号,回复: 3853432 查看本文章
我们可以把这句话拆分成三个条件:
g(x,y)=0
∂f(x,y)∂x=λ∂g(x,y)∂x
∂f(x,y)∂y=λ∂g(x,y)∂y
三个方程,三个未知数,这样实际就可以求解了。
不过,为了记忆简洁,同时方便计算机运算,我们还可以把三式合为一式:
L(x,y,λ)=f(x,y)−λg(x,y)
∇L(x,y,λ)=0
其中
求解
通过