线性规划——对偶问题的推导

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/itnerd/article/details/83352441

原问题

$\min_x \;c^Tx\\s.t. \;Ax=b\\x\geq 0 \tag{1}$

对偶问题

$\max_y\;b^Ty\\s.t.\;A^Ty+s=c\\s\geq 0\tag{2}$
$A \in \R^{m\times n}, x \in \R^{n}, s \in \R^{n}, y \in \R^{m}$

---

推导

引入拉格朗日函数: $L(x,\lambda,\mu) = c^Tx+\lambda^T(Ax-b)-\mu^T x$要求 $\mu >0$， $\lambda$随意。容易验证： $\sup_{\lambda,\mu} L(x,\lambda,\mu) = c^Tx$因而原问题就等价于： $\inf_{x\in D}\sup_{\lambda,\mu} L(x,\lambda,\mu), \tag{P}$其中可行域 $D=\{x| Ax=b, x \geq 0\}$。下面我们构造对偶问题：
$\sup_{\lambda,\mu}\inf_{x} L(x,\lambda,\mu). \tag{D}$
先对 x 取下界：
$\inf_{x} L(x,\lambda,\mu) \\= -\lambda^Tb + \inf_x{(c+A^T\lambda -\mu)^Tx} \\=\left\{ \begin{array}{lr} -\lambda^Tb, \;\;\;\;c+A^T\lambda -\mu=0& \\ -\infty, \;\;\;\;\;\;\;otherwise& \end{array} \right.$
显而易见，对偶问题 (D) 值有当 $c+A^T\lambda -\mu=0$ 时才有意义。所以对偶问题写成： $\max_\lambda\;-b^T\lambda\\s.t.\; A^T\lambda-\mu+c=0\\\mu\geq 0$令 $y = -\lambda, s=\mu$ 即变成问题 (2)。