【优化方法学习笔记】第四章：多目标规划

1. 多目标规划的基本概念

1.1 向量序

设$\mathbf{a}=(a_1,a_2,\cdots ,a_n)$, $\mathbf{b}=(b_1,b_2,\cdots ,b_n)$, 定义：

• 若 ∀ i ∈ { 1 , 2 , ⋯   , n } \forall i \in \lbrace 1,2,\cdots,n \rbrace ∀i∈{ 1,2,⋯,n}, 都有$a_i=b_i$, 则称向量$\mathbf{a}$等于向量$\mathbf{b}$, 记作$\mathbf{a}=\mathbf{b}$
• 若 ∀ i ∈ { 1 , 2 , ⋯   , n } \forall i \in \lbrace 1,2,\cdots,n \rbrace ∀i∈{ 1,2,⋯,n}, 都有$a_i\le b_i$, 则称向量$\mathbf{a}$小于等于向量$\mathbf{b}$, 记作$\mathbf{a}\leqq \mathbf{b}$
• 若 ∀ i ∈ { 1 , 2 , ⋯   , n } \forall i \in \lbrace 1,2,\cdots,n \rbrace ∀i∈{ 1,2,⋯,n}, 都有$a_i\le b_i$, 且 ∃ j ∈ { 1 , 2 , ⋯   , n } \exists j \in \lbrace 1,2,\cdots,n \rbrace ∃j∈{ 1,2,⋯,n}, 使得$a_i<b_i$, 则称向量$\mathbf{a}$小于向量$\mathbf{b}$, 记作$\mathbf{a}\le \mathbf{b}$
• 若 ∀ i ∈ { 1 , 2 , ⋯   , n } \forall i \in \lbrace 1,2,\cdots,n \rbrace ∀i∈{ 1,2,⋯,n}, 都有$a_i<b_i$, 则称向量$\mathbf{a}$严格小于向量$\mathbf{b}$, 记作$\mathbf{a}<\mathbf{b}$

类似可以定义$\mathbf{a}\geqq \mathbf{b}$, $\mathbf{a}\ge \mathbf{b}$和$\mathbf{a}>\mathbf{b}$。

1.2 多目标规划

目标函数多于一个的优化问题称为多目标规划, 记作(VP), 数学形式为$\underset{\mathbf{x}\in \Omega }{\min }\mathbf{F}(\mathbf{x})$, 其中$\mathbf{F}(\mathbf{x})={\left[f_1(\mathbf{x}),f_2(\mathbf{x}),\cdots ,f_n(\mathbf{x})\right]}^{\mathrm{T}}$为向量值函数。若 ∀ i ∈ { 1 , 2 , ⋯   , n } \forall i \in \lbrace 1,2,\cdots,n \rbrace ∀i∈{ 1,2,⋯,n}, $f_i(\mathbf{x})$都为凸函数, 则称(VP)为凸多目标规划。

1.3 多目标规划的解

设${\mathbf{x}}^{\ast }\in \Omega$, $\mathbf{F}(\mathbf{x})={\left[f_1(\mathbf{x}),f_2(\mathbf{x}),\cdots ,f_n(\mathbf{x})\right]}^{\mathrm{T}}$, (VP)的解有许多种，常用的有：

1. 若对$\forall \mathbf{x}\in \Omega$, 都有$\mathbf{F}({\mathbf{x}}^{\ast })\leqq \mathbf{F}(\mathbf{x})$, 则称${\mathbf{x}}^{\ast }$是(VP)的绝对最优解, 其全体记为${\Omega }_{\mathrm{ab}}$, 有$${\Omega }_{\mathrm{ab}}=\bigcap _{i=1}^n\underset{\mathbf{x}\in \Omega }{\mathrm{argmin}}{f}_i(\mathbf{x})$$
2. 若不存在$\mathbf{x}\in \Omega$, 使得$\mathbf{F}({\mathbf{x}}^{\ast })\le \mathbf{F}(\mathbf{x})$, 则称${\mathbf{x}}^{\ast }$是(VP)的有效解（或Pareto解）, 其全体记为${\Omega }_{\mathrm{pa}}$, ${\mathbf{x}}^{\ast }\in {\Omega }_{\mathrm{pa}}$的充要条件是 { F ( x ∗ ) − d ∣ d ≥ 0 } ∩ F ( Ω ) = { F ( x ∗ ) } \lbrace\boldsymbol{F}(\boldsymbol{x^*}) - \boldsymbol{d} \mid \boldsymbol{d} \ge \bold0 \rbrace \cap \boldsymbol{F}(\Omega) = \lbrace \boldsymbol{F}(\boldsymbol{x}^*) \rbrace { F(x∗)−d∣d≥0}∩F(Ω)={ F(x∗)}
3. 若不存在$\mathbf{x}\in \Omega$, 使得$\mathbf{F}({\mathbf{x}}^{\ast })<\mathbf{F}(\mathbf{x})$, 则称${\mathbf{x}}^{\ast }$是(VP)的弱有效解（或弱Pareto解）, 其全体记为${\Omega }_{\mathrm{wp}}$, ${\mathbf{x}}^{\ast }\in {\Omega }_{\mathrm{wp}}$的充要条件是 { F ( x ∗ ) − d ∣ d > 0 } ∩ F ( Ω ) = ∅ \lbrace\boldsymbol{F}(\boldsymbol{x^*}) - \boldsymbol{d} \mid \boldsymbol{d} > \bold0 \rbrace \cap \boldsymbol{F}(\Omega) = \varnothing { F(x∗)−d∣d>0}∩F(Ω)=∅

【例1】求多目标规划的绝对可行解、有效解和弱有效解$$\begin{array}{cc}\min & 3x_1+x_2\\ \max & x_1+2x_2\\ s.t.& x_1,x_2\in [0,1]\end{array}$$【解】$\mathbf{F}(x_1,x_2)=[f_1(\mathbf{x}),f_2(\mathbf{x}){]}^{\mathrm{T}}=[3x_1+x_2,-x_1-2x_2{]}^{\mathrm{T}}$, $\Omega =\left\{(x_1,x_2{)}^{\mathrm{T}}\mid x_1,x_2\in [0,1]\right\}$。

显然, 约束优化问题$\underset{\mathbf{x}\in \Omega }{\min }{f}_1(\mathbf{x})$的最优解集为${\Omega }_1=\left\{(0,0{)}^{\mathrm{T}}\right\}$, 约束优化问题$\underset{\mathbf{x}\in \Omega }{\min }{f}_2(\mathbf{x})$的最优解集为${\Omega }_2=\left\{(1,1{)}^{\mathrm{T}}\right\}$, 所以绝对最优解${\Omega }_{\mathrm{ab}}={\Omega }_1\cap {\Omega }_2=\varnothing$。

做出可行域$\Omega$的图像如图1左图所示, 因$\mathbf{F}(x_1,x_2)$是线性函数, 所以把左图中顶点映射后连线即得到像集$\mathbf{F}(\Omega )$的图像, 如图1右图所示。记$O^{\prime }=\mathbf{F}(\mathbf{O})$, $C^{\prime }=\mathbf{F}(\mathbf{C})$, $B^{\prime }=\mathbf{F}(\mathbf{B})$, 则显然折线段$O^{\prime }{C}^{\prime }{B}^{\prime }$是有效解, 也是弱有效解。

图1 可行域（左）与像集（右）

2. 线性加权和法

线性加权和法对每个目标函数赋予一个权重, 从而把多目标规划转化为单目标规划。具体来说, 对于多目标规划$\underset{\mathbf{x}\in \Omega }{\min }\mathbf{F}(\mathbf{x})={\left[f_1(\mathbf{x}),f_2(\mathbf{x}),\cdots ,f_n(\mathbf{x})\right]}^{\mathrm{T}}$, 给定$n$个权数${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_n$, 则(VP)转化为$$\underset{\mathbf{x}\in \Omega }{\min }\sum _{i=1}^n{\lambda }_i{f}_i(\mathbf{x})$$用这种方法得到最优解称为线性加权和意义下的最优解。
线性加权和法求得的解必然是(VP)的有效解, 但不能保证求出所有的有效解。

【例2】取权数${\lambda }_1=\frac{2}{3}$和${\lambda }_2=\frac{1}{3}$, 用线性加权和法求解$$\begin{array}{cc}\min & \mathbf{f}(x_1,x_2)=(x_1,x_2{)}^{\mathrm{T}}\\ s.t.& x_1+x_2\ge 3\\ & x_1+x_2\le 5\\ & x_1\ge 0\\ & 0\le x_2\le 2\end{array}$$【解】问题转化为$$\begin{array}{cc}\min & \frac{2}{3}{x}_1+\frac{1}{3}{x}_2\\ s.t.& x_1+x_2\ge 3\\ & x_1+x_2\le 5\\ & x_1\ge 0\\ & 0\le x_2\le 2\end{array}$$如图2所示, 由图解法易得最优解为$(x_1,x_2)=(1,2)$, 最优值为$\frac{4}{3}$。

图2 图解法

3. 平方加权和法

平方加权和法与线性加权和法类似, 也是把(VP)转化为单目标规划, 具体步骤是先求出约束优化问题$\underset{\mathbf{x}\in \Omega }{\min }{f}_i(\mathbf{x})$的最优解（或近似最优解）$y_i$, 然后给定$n$个权数${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_n$, 则(VP)转化为$$\underset{\mathbf{x}\in \Omega }{\min }\sum _{i=1}^n{\lambda }_i[f_i(\mathbf{x})-y_i{]}^2$$用这种方法得到最优解称为平方加权和意义下的最优解。当权数满足${\lambda }_1={\lambda }_2=\cdots ={\lambda }_n>0$时, 称为理想点法。
平方加权和法求得的解必然是(VP)的有效解。

4. 极小极大法

极小极大法通过极小化极大函数的方式把（VP）转化为单目标规划：$$\underset{\mathbf{x}\in \Omega }{\min }\underset{1\le i\le n}{\max }{f}_i(\mathbf{x})$$用这种方法得到最优解称为极大极小意义下的最优解。
经典的极小极大法求得的解必然是(VP)的弱有效解。

5. 分层序列法

分层序列法通过逐个求解目标函数的方式求得最终的最优解, 算法步骤如下：

1. 确定$n$个目标函数的求解顺序, 不妨取为$f_1(\mathbf{x}),f_2(\mathbf{x}),\cdots ,f_n(\mathbf{x})$
2. $\mathbf{for}i=1,2,\cdots ,n\mathbf{do}$
3. \qquad 求解单目标规划$\underset{\mathbf{x}\in \Omega }{\min }{f}_i(\mathbf{x})$得到最优解${\mathbf{x}}^{\ast }$
4. Ω = Ω ∩ { x ∣ f i ( x ) = f i ( x ∗ ) } \qquad \Omega = \Omega \cap \lbrace \boldsymbol{x} \mid f_i(\boldsymbol{x}) = f_i(\boldsymbol{x}^*) \rbrace Ω=Ω∩{ x∣fi​(x)=fi​(x∗)}
5. $\mathbf{end}$
6. $\mathbf{return}\Omega$

用这种方法得到最优解称为分层序列意义下的最优解。
分层序列法求得的解必然是(VP)的有效解。

【例3】用分层序列法求解$$\begin{array}{cc}\min & (x_2,x_1^2+x_2^2{)}^{\mathrm{T}}\\ s.t.& x_1+x_2-1\le 0\\ & x_1-2x_2+2\ge 0\\ & x_2\ge 0\end{array}$$【解】第$1$次迭代, 单目标规划为$$\begin{array}{cc}\min & x_2\\ s.t.& x_1+x_2-1\le 0\\ & x_1-2x_2+2\ge 0\\ & x_2\ge 0\end{array}$$显然最优解为$x_2=0$；

第$2$次迭代, 单目标规划为$$\begin{array}{cc}\min & x_1^2+x_2^2\\ s.t.& x_1+x_2-1\le 0\\ & x_1-2x_2+2\ge 0\\ & x_2=0\end{array}$$该问题等价于$$\begin{array}{cc}\min & x_1^2\\ s.t.& -2\le x_1\le 1\end{array}$$显然最优解为$x_1=0$, 所以该问题的最优解为$(x_1,x_2)=(0,0)$。

所以原问题的最优解为$(x_1,x_2)=(0,0)$, 最优值为$(0,0{)}^{\mathrm{T}}$。