智能优化算法（一）：伪随机数的产生

1.伪随机数介绍

1.1.伪随机产生的意义

  1.随机数的产生是进行随机优化的第一步也是最重要的一步，随机优化算法运行过程中需要大量随机数。
  2.传统手工方法：抽签，掷骰子，抽牌，摇号等，无法满足产生大量随机数的需求。
  3.伪随机数方法：利用计算机通过某些数学公式计算而产生，从数学意义上说不是随机的，但只要通过随机数的一系列统计检验，就可以作为随机数来使用。

1.2.伪随机产生的过程

  $\bullet$Step1：确定一个数学模型或某种规则。
  $\bullet$Step2：规定几个初始值。
  $\bullet$Step3：按照上述模型产生第一个随机数。
  $\bullet$Step4：用产生的上一个随机数作为新的初值，按照相同的步骤产生下一个随机数，重复之，得到一个伪随机数序列。

2.产生U(0,1)的乘除同余法

2.1.原始的乘同余法

  均匀的随机数的产生是生成其他随机数的基础，U(0,1)型随机数的产生主要是通过乘同余法进行设计生成，乘同余法的计算公式如下所示：
$$S_{k+1}=(A\cdot S_k)\mathrm{mod}(M)$$
在公式中A表示整数常数， mod表示取模运算， M表示较大的整数

通过数论理论能够证明：
  当$M=2^L(L>2)$时，若$A=4k+1或者A=8k+3$，且$S_0$为奇数时，可以获得的最长随机数序列长度为 $2^{L-2}$.
  算法实现如下所示：

%% 伪随机数的生成1--乘同余法
%乘同余法
%设定参数
clc;
S0=1;
A=3;
L=4;
M=2^L;
s=S0;
% 循环计算
fprintf('参数A=%d,M=%d,s0=%d的乘除同余法计算结果如下:\n',A,M,S0)
%得到的随机数循环周期为2^(L=2)个
for i =1:2^(L-2)
    s=mod(A*s,M);
    fprintf('第%d个随机数为:%d\n', i,s);
end
%如果想产生U(0,1)则需要将求出的s/M即可。

2.2.改进的乘同余法

  对于普通的乘同余法只能获得周期为$2^{L-2}$的随机数序列，这是远远不够的，所以我们通过添加一个与M互为质数的C来使得乘同余法获得周期为$2^L$的随机数数列，这种方法就被称作混合同余法，计算公式如下所示:
$$S_{k+1}=(A\cdot S_k+C)\mathrm{mod}(M)$$
  算法实现如下所示:

%% 伪随机数的生成2--混合乘同余法
%混合乘同余法
%设定参数
clc;
S0=1;
A=3;
L=4;
M=2^L;
s=S0;
C=3;
% 循环计算
fprintf('参数A=%d,M=%d,C=%d,S0=%d的乘除同余法计算结果如下:\n',A,M,C,S0)
%得到的随机数循环周期为2^(L)个
for i =1:2^(L)
    s=mod(A*s+C,M);
    fprintf('第%d个随机数为:%d\n', i,s);
end
%如果想产生U(0,1)则需要将求出的s/M即可。

3.产生正态分布的伪随机数

  产生正态分布的伪随机数的基本原理：若$Y_1,Y_2,Y_3......Y_n$ 是独立同分布，均值和方差分别为 $\mu$和$\sigma$ ，且$n$较大，则$X=Y_1+Y_2+Y_3......+Y_n$ 近似于正态分布，且满足${\mu }_x={\mu }_1+{\mu }_2+{\mu }_3.....+{\mu }_n=n\mu$ 及${\sigma }_x^2={\sigma }_1^2+{\sigma }_2^2+{\sigma }_3^2.....+{\sigma }_n^2=n{\sigma }_{}^2$，即$x\in N(n\mu ,n{\sigma }^2)$.
  于是正态分布可以由多个U(0,1)来近似。
  对于$Y\in U(0,1)$ 来说，对于Y的均值有:
$${\mu }_y=\frac{1}{2}$$
  对于Y的方差，计算如下所示:
$$\begin{gathered} \begin{array}{rl}{\sigma }_y^2& =E\left(Y^2\right)-{\left(E(Y)\right)}^2={\int }_{-\infty }^{+\infty }f(y)dy-{\left(\frac{1}{2}\right)}^2 \\ ={\int }_0^1{y}^{2}dy-\frac{1}{4}=\frac{y^3}{3}|\frac{1}{0}-\frac{1}{4}=\frac{1}{12}\end{array} \end{gathered}$$
  令$z=\frac{x-{\mu }_x}{{\sigma }_x}$,则$z\in N(0,1)$,则z的公式如下所所示:
$$z=\frac{\sum y_i-{\mu }_x}{{\sigma }_x}=\frac{\sum y_i-n{\mu }_y}{\sqrt{n{\sigma }_y^2}}=\frac{\sum y_i-\frac{n}{2}}{\sqrt{n{/}_{12}}}$$
  一般取n=12，则z的计算公式为:
$$z=\sum _{i=1}^{12}{y}_i-6\in N(0,1)$$
  若想产生服从一般正态分布$N(\mu ,{\sigma }^2)$ 的随机数x ，则只需产生$z\in N(0,1)$ ，再按公式 $x=\mu +\sigma z$，即可获得$x\in N(\mu ,{\sigma }^2)$.

  算法实现如下所示(取$n=1200$计算结果好):

%% 伪随机数的生成3--正态分布方法
%正态分布方法
%设定参数
clc
%生成12个U(0,1)分布的随机数就直接调用包来解决
N=1200;
for i=1:1000
    Y=rand(N,1);
    z=(sum(Y)-N*0.5)/sqrt(N/12);
    fprintf('第%d个属于N(0,1)的随机数为:%.2f\n',i,z)
end

4.基于逆变法产生伪随机数

  逆变法产生伪随机数的基本原理是设Y是(0,1)上均匀分布随机变量，F为任意一个连续分布函数，定义随机变量$X=F^{-1}(Y)$，则 X具有分布函数F。
  证明如下:
F X ( a ) = P { X ≤ a } = P { F − 1   ( Y ) ≤ a } = P { Y ≤ F ( a ) } \begin{aligned}F_X(a)&=P\{X\leq a\}=P\{F^{-1}~(Y)\leq a\}=P\{Y\leq F(a)\}\end{aligned} FX​(a)​=P{ X≤a}=P{ F−1 (Y)≤a}=P{ Y≤F(a)}​
  这里$Y\in U(0,1)$ ，有
f ( y ) = 1 , F ( y ) = P { Y ≤ y } = ∫ − ∞ y f ( y ) d y = y f(y)=1,\quad F(y)=P\{Y\leq y\}=\int_{-\infty}^yf(y)dy=y f(y)=1,F(y)=P{ Y≤y}=∫−∞y​f(y)dy=y
  最后能够推出:
$$F_X(a)=F(a)$$