使用基于变量交互学习的合作协同进化的大规模全局优化

引用

LaTex

@inproceedings{Chen:2010:LGO:1887255.1887289,
author = {Chen, Wenxiang and Weise, Thomas and Yang, Zhenyu and Tang, Ke},
title = {Large-scale Global Optimization Using Cooperative Coevolution with Variable Interaction Learning},
booktitle = {Proceedings of the 11th International Conference on Parallel Problem Solving from Nature: Part II},
series = {PPSN’10},
year = {2010},
isbn = {3-642-15870-6, 978-3-642-15870-4},
location = {Krak\ów, Poland},
pages = {300–309},
numpages = {10},
url = {http://dl.acm.org/citation.cfm?id=1887255.1887289},
acmid = {1887289},
publisher = {Springer-Verlag},
address = {Berlin, Heidelberg},
keywords = {cooperative coevolution, incremental group strategy, large-scale optimization, numerical optimization, variable interaction learning},
}

Normal

W. Chen, T. Weise, Z. Yang, and K. Tang, “Large-scale global optimization using cooperative coevolution with variable interaction learning,” in International Conference on Parallel Problem Solving from Nature, 2010, pp. 300–309.

主要内容

CC 合作协同进化 Cooperative Coevolution

非交互变量 — 同一组
交互变量 — 可分

早期研究：

单维
对半分

组的大小不一应该考虑

大规模优化测试集

维度灾难 Curse of Dimensionality

传统算法解决大规模问题时，性能急剧降低。

CC策略分而治之： CC 将搜索空间分为低维子空间；将决策变量分为变量组

问题的分解策略需要考虑

本文提出了一种泛化的可拓展的高效方法

合作协同进化 CC

这里写图片描述

基本组成：

分解方法
合作：每个子种群选出代表元素
每组的变量使用优化算子进行优化

每个子种群的优化为一个phase。

所有组的一次迭代优化为一个cycle。

这里写图片描述

算法1和2中，问题被看作是完全可分的。

发现决策变量关系

分解策略是CC最重要的组成部分

这里写图片描述

若函数 $f$ 满足式（1），即，可以通过相继地沿着各个坐标轴进行线性搜索得到全局最优。

（2）式中，变量 $i$ 和 $j$ 是有交互作用的。

在CC中，决策变量可以分解成多组： $G_1,G_2,\ldots,G_m$ ，等价于：适应函数 $f$ 能够通过分量函数 $f_1,f_2,\ldots,f_m$ 的线性组合进行估计。

文献【1】中提出了一个简单方法：每个变量的最优值组成 $best$ 向量；在种群 $popcc$ 中，最优个体为 $new$ ，即只改变维度 $i$ ；还有一个随机候选个体 $rand$ 。

这里写图片描述

由此生成以上两个候选个体，以判断变量 $i$ 和 $k$ 是否依赖。 $x$ 中的 $k$ 来自于最优个体 $best$ ，故其优于 $k'$ （来自于随机生成），因此， $f\left(x\right) \leq f\left(x'\right)$ 对于可分变量成立，然而，若 $f\left(x\right) > f\left(x'\right)$ ，则变量 $i$ 和 $k$ 是相互作用的。

CCVIL

提出的CCVIL
Cooperative Coevolution with Variable Interaction Learning
变量交互学习的合作协同进化

首先将所有变量看做是独立的，并分别放到一组；通过迭代，能够发现它们之间的关系，相应地把组融合。

这里写图片描述

学习阶段

按维进行优化，类似算法2。但是，在每个学习cycle开始前，维度的访问顺序被打乱，每两个维度有相同的概率能够被连续访问。

从随机的角度来看，在一个 $N$ 维问题中，在一次随机排列中，任两个维度相邻的概率为 $2/N$ 。因此，在 $K$ 次学习cycle中，此种情况至少发生一次的概率 $p_{capt}$ 为

这里写图片描述

算法中的种群大小与内部优化算子代数限制分别设为了3与1。CCVIL在每一个cycle进行了独立的restart操作，以免丢失种群多样性。

设置了学习cycle的上界与下界： $\hat{K}$ 和 $\check{K}$ 。若在学习阶段的前 $\check{K}$ 个cycle中，不能检测到任何变量交互作用，问题视作是完全可分的，或者存在的交互作用很弱，并转入优化阶段。在 $\hat{K}$ 个cycle后，即使有交互作用没有检测出来，也强制转入优化阶段。推荐设置为 $\check{K}=10$ 与达到 $p_{capt} \left( \hat{K} \right)$ 时的 $\hat{K}$ 。然而， $\hat{K}$ 不能使学习阶段占用超过60%的FEs。

优化阶段

使用的优化算子为JADE。代数与组的大小有关： $Gen_i = \min \left\{ \left| G_i \right| + 5500 \right\}$ 。种群大小基于自适应策略：初始为 $NP_i = \left| G_i \right| + 10$ ；在种群丢失多样性而不能提升时，种群大小变为之前的三倍，并进行独立重启，如【5】，判定条件为 $\left( f_{K-1} - f_{K} \right) / f_K < 10^{-2}$ 。

不同组的优化难度可能不同，若5次cycle都没有提升，认为组已收敛，停止优化。

实验研究

设置

1000维问题

所比较的算法为：CCVIL、DECC-G、MLCC与JADE【6】。

3000000的FEs

种群规模：JADE-1000，DECC-G与MLCC为默认值

25次运行。

基准函数与学得的组

这里写图片描述

函数介绍在文献【7】。

Ackley’s function是可分的，但不是加性可分【8】。
Rosenbrock’s function虽然是完全不可分的，但相互作用很微弱。

优化效果比较

这里写图片描述

5%显著级别的双尾Mann-Whitney U 检验
$W$ —统计上的明显好于（win）
$L$ —失败（loss）
“-”—无明显差异

学习阶段应设置的FEs还应进一步研究。
在学习阶段，是随机打乱变量顺序的。
CMA-ES【9】是更高效的优化算子。

参考文献

【1】 Weicker, K.,Weicker, N.: On the improvement of coevolutionary optimizers by learning variable
interdependencies. In: Proc. 1999 Congress on Evolutionary Computation (CEC’99).
IEEE Press. (1999) 1627–1632
【2】 Aickelin, U.: A Pyramidal Evolutionary Algorithm with Different Inter-Agent Partnering
Strategies for Scheduling Problems. In: GECCO Late-Breaking Papers. 1–8
【3】 Yang, Z., Tang, K., Yao, X.: Large scale evolutionary optimization using cooperative coevolution.
Information Sciences 178(15) (2008) 2985–2999
【4】 Yang, Z., Tang, K., Yao, X.: Multilevel cooperative coevolution for large scale optimization.
In: IEEE Congress on Evolutionary Computation, IEEE Press (2008) 1663–1670
【5】 Auger, A., Hansen, N.: A restart CMA evolution strategy with increasing population size.
In: IEEE Congress on Evolutionary Computation. Volume 2., IEEE Press (2005)
【6】 Zhang, J., Sanderson, A.C.: JADE: adaptive differential evolution with optional external
archive. IEEE Transactions on Evolutionary Computation 13(5) (2009) 945–958
【7】 Tang, K., Li, X., Suganthan, P.N., Yang, Z., Weise, T.: Benchmark functions for the
CEC’2010 special session and competition on large scale global optimization. TR, NICAL,
USTC, Hefei, Anhui, China (2009) http://nical.ustc.edu.cn/cec10ss.php.
【8】 Streeter, M.: Upper bounds on the time and space complexity of optimizing additively separable
functions. In: Genetic and Evolutionary Computation–GECCO 2004, Springer (2004)
186–197
【9】 Hansen, N.,M¨uller, S.D., Koumoutsakos, P.: Reducing the time complexity of the derandomized
evolution strategy with covariance matrix adaptation (CMA-ES). Evolutionary Computation
11(1) (2003) 1–18