凸函数的梯度的单调性 (Monotonicity of gradient)

版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/itnerd/article/details/84315993

可微函数 f f 是凸函数 当且仅当 d o m f domf 是凸集,且 ( f ( x ) f ( y ) ) T ( x y ) > 0 ,      x , y d o m f (\bigtriangledown f(x)-\bigtriangledown f(y))^T(x-y)>0, \;\; \forall x,y \in dom f f : R n R n \bigtriangledown f: \R^n \rightarrow \R^n 是单调映射(monotone mapping)。


证明:

  1. 如果 f f 是可微的凸函数,则有 f ( y ) f ( x ) + f ( x ) T ( y x ) , f ( x ) f ( y ) + f ( y ) T ( x y ) . f(y) \geq f(x) + \bigtriangledown f(x)^T(y-x),\\ f(x) \geq f(y) + \bigtriangledown f(y)^T(x-y). 将上面两式相加得 ( f ( x ) f ( y ) ) T ( x y ) > 0 (\bigtriangledown f(x)-\bigtriangledown f(y))^T(x-y)>0
  2. 如果 f \bigtriangledown f 是单调的,定义函数 g g : g ( t ) = f ( x + t ( y x ) ) ,    t [ 0 , 1 ] g ( t ) = f ( x + t ( y x ) ) T ( y x ) g(t) = f(x+t(y-x)), \;t \in [0,1]\\ g'(t) = \bigtriangledown f(x+t(y-x))^T(y-x) 则由 g ( t ) g'(t) 的连续性以及 g ( 1 ) g ( 0 ) > 0       g ( 0 ) g ( 0 ) = 0 g'(1)-g'(0) >0 \;且\; g'(0)-g'(0) = 0 g ( t ) g ( 0 ) 0 ,      g'(t) -g'(0) \geq 0,\;\; 因此 f ( y ) = g ( 1 ) = g ( 0 ) + 0 1 g ( t ) d t g ( 0 ) + g ( 0 ) = f ( x ) + f ( x ) ) T ( y x ) f(y) = g(1) = g(0) + \int_0^1 g'(t)dt \geq g(0) + g'(0) \\= f(x) + \bigtriangledown f(x))^T(y-x) f f 为凸函数。

猜你喜欢

转载自blog.csdn.net/itnerd/article/details/84315993