【オペレーショナルリサーチ最適化】メタヒューリスティックアルゴリズム詳細解説：シミュレーテッドアニーリングアルゴリズム（Simulated Annealing、SA）＋事例解説＆コード演習

---

1. はじめに

シミュレーテッド アニーリング (SA) は、最も単純で最も有名なメタ ヒューリスティック アルゴリズムであり、複雑なブラック ボックスの大域最適化問題を解決するためによく使用され、実生活でも広く使用されています。

SA の主な利点はシンプルさです。SA は材料の物理的アニーリングの類似性に基づいており、効率的なメトロポリス許容基準の適用により、モンテカルロ法の欠点 (極小値でのトラップの可能性) を回避します。

目的関数の評価が、大量のメモリを必要とする大次元の状態空間を操作する複雑なシミュレーション プロセスから行われる場合、母集団ベースのアルゴリズムは適用できず、シミュレーテッド アニーリングはこれらの問題を解決する効果的なアルゴリズムです。

---

2. 基礎知識

1980 年代初頭、IBM の 3 人の研究者、カークパトリックらは、組み合わせ最適化におけるアニーリングの概念を導入しました。

これらの概念は、材料の物理的アニーリングとの強い類似性に基づいています。このプロセスには、固体の温度を上げた後に固体を低エネルギー状態にすることが含まれます。これは次の 2 つの手順に要約できます (図 1.1 を参照)。

• 構造が「溶ける」まで固体を非常に高温にする
• 固体は非常に特殊な冷却スキームに従って冷却され、最小限のエネルギーで固体状態を実現します。

液体状態では、粒子はランダムに分布しています。結果は、初期温度が十分に高く、冷却時間が十分に長い限り、最小エネルギー状態に到達できることを示しています。これが当てはまらない場合、固体は非最小エネルギーの準安定状態になるため、これは硬化と呼ばれ、固体が突然冷却されることになります。

最適化のための焼きなましアルゴリズムを説明する前に、焼きなましアルゴリズムの拡張である局所探索最適化アルゴリズムの原理を理解する必要があります。

2.1 局所探索 (またはモンテカルロ) アルゴリズム

これらのアルゴリズムは、解空間内の現在の点の近傍を探索することによって目的関数を改善します。

次の定義では、$(S、f)$組み合わせ最適化問題のインスタンス化 ($S$ : 実行可能な解のセット、$f$ : 最小化される目的関数)。

定義 1 : $N$は、各解i ∈ S i \in Sに対して適用されます。$私\in S\; は$AND 解を定義します$i$に「近い」解の部分集合$S_{}\subset S$。子集 $S_{}$解決策$私$の近所です。

以下の定義では、$N$は( S , f ) (S,f)と一緒です$(S、f)$アソシエーションの近隣構造。

定義 2 : 生成メカニズムは特定のソリューションで使用されます。$i$の任意の近傍$S_{}$解決策を選択して$j$の手段

ローカル検索アルゴリズムは、状態空間内でランダムに描画された実行可能な点から検索を開始する反復アルゴリズムです。

次に、より良い解決策を見つけるために、現在の解決策の近傍を探索することによって、生成メカニズムが継続的に適用されます。

より良いソリューションが見つかった場合、それが現在のソリューションになります。改善された解が見つからない場合、アルゴリズムは終了し、現在の解が最適化問題の近似解とみなされます。

最小化問題の場合、アルゴリズムは次の疑似コードで要約できます。

中国語に翻訳すると次のようになります。

ステップ	具体操作
1	初期解を生成する$私$
2	現在のソリューションから$i$の近傍で$j$ (新しいソリューションを生成)
3	新しいソリューションの場合、$j$の目的関数の値は$i$の目的関数の値を新しい解$j$を現在の解決策として
4	現在のソリューション$i$の近傍に解jj はありません$j$の目的関数の値は$i$の目的関数の値、その後プログラムは終了します
5	ステップ2に戻る

定義 3 : すべてのj ∈ S i ∗ j\in S^*_iの場合$j\in S_{私}^{}$すべて$f\left({私}^{\ast }\right)\le f\left(j\right)$，则解${私}^{\ast }\in S$はN \mathscr{N}に対して相対的に呼び出されます$N$の局所最適解

定義 4 : 約$N$ i ∗ ∈ S i^*\in Sの各局所最適解${私}^{\ast }\in S$，${私}^{\ast }$は( S , f ) (S,f)ともなります$(S、f)$の全体的な最適値は、近傍構造$N$は正確です。

したがって、定義により、局所探索アルゴリズムは、正確な近傍構造が存在する場合にのみ局所最適値に収束することが保証されます。

この正確な近傍の概念は理論的なものであり、実際には通常、検索空間による完全な列挙が行われるためです。

したがって、現在の解が目的関数が凸であるサブドメインに「落ちた」場合、新しい解生成メカニズムに関連付けられた近傍構造がサブドメインの外側の点に到達できない限り、アルゴリズムはそのサブドメインにとどまったままになります。

極小値に陥ることを避けるためには、現在の解の品質の一時的な低下を許容する手順を定義する必要があります。これがシミュレーテッド アニーリングの主原則です。

このアルゴリズムを説明する前に、SA の基本コンポーネントであるメトロポリス アルゴリズムを紹介する必要があります。

2.2 メトロポリスアルゴリズム

1953 年に 3 人のアメリカの研究者が、アニーリング中の材料の物理的構造の変化を再現することを目的として、物理的アニーリング プロセスをシミュレートするアルゴリズムを開発しました。

このアルゴリズムは、次のように固体の一連の状態を生成するモンテカルロ手法に基づいています。

初期状態の設定$i$のエネルギーは$E_{}$、粒子の位置を変更してエネルギー$E_{}$新しい状態$j$。

エネルギー差$E_{}-E_{}>0$ (新しい状態のエネルギーが低い)、状態$j\; が$新しい現在の状態になります。

エネルギー差$E_{}-E_{}\le 0$、その後状態$j\; は$次の確率で現在の状態になります。

$$\mathrm{Pr}\{\text{ 現在の状態 }=j\}=e^{\left(\frac{E_{}-E{\_}_{}}{k_{}\cdot T}\right)}$$

どこで$T\; は$固体の温度を表します、$k_{}$はボルツマン定数 ( $k_{}=1.38\times 10^{-23}J/K$）。

一定の確率でより劣悪な解決策を受け入れるためのこの基準は、メトロポリス基準と呼ばれます。

冷却が十分にゆっくりと進むと、所定の各温度$T\; は$平衡状態に達します。

Metropolis アルゴリズムでは、各温度で多数の遷移を生成することでこのバランスが実現されます。

熱収支はボルツマン統計分布によって特徴付けられます。この分布により、温度TTの固体が得られます。エネルギーE i E_i$でT$$E_{}$状態$i$の確率:

$$Pr\{X=私\}=\frac{}{Z\left(T\right)}{e}^{-（\frac{E_{}}{k_{}\cdot T})}$$

ここで$X$は、固体の現在の状態に関連する確率変数です。$Z\left(T\right)$は正規化係数であり、次のように定義されます。

$$Z\left(T\right)=\underset{j\in S}{}{e}^{-（\frac{E_{}}{k_{}\cdot T})}$$

2.3 シミュレーテッドアニーリングアルゴリズム

SA アルゴリズムでは、状態空間$S$で一連の解を生成します。

これを行うには、次の等価条件を使用して、多粒子システムと最適化問題の間の類推を描きます。

• 状態空間点 (解) は固体の可能な状態を表します
• 最小化される関数は固体のエネルギーを表します

次に、$c$は温度の制御パラメータとして使用されます。このパラメータは、最適化目標と同じ単位で表されます。

また、状態空間内の各点に近傍と、その近傍で解を生成するメカニズムを与えたと仮定します。次に、許容基準を次のように定義します。

定義 5 : $(S、f)$は組み合わせ最小化問題のインスタンスです$私$、$j$は状態空間内の 2 点です。現在のソリューションから$i$で受け入れられた解決策$j$の許容基準は、次の確率によって与えられます。

$$\mathrm{Pr}\left\{\text{ 受け入れます }j\right\}=\{\begin{array}{ll}1& f\left(j\right)\text{ の場合 }<f\left(i\right)\\ e^{(\frac{f\left(i\right)-f(j}{c}}& \text{ それ以外 }\end{array}$$

類推すると、近傍の生成原理はメトロポリス アルゴリズムの摂動メカニズムに対応し、受け入れ原理はメトロポリス基準を表します。

定義 6 : 遷移とは、現在のソリューションを隣接するソリューションに置き換えることを意味します。この操作は、生成と受け入れの 2 つのフェーズで実行されます。

次に、$c_{}$温度パラメータの値、$L_{}$反復$k$で生成する遷移の数SA の原則は次のように要約できます。

シミュレーテッド アニーリング アルゴリズムの主な特徴の 1 つは、目的関数の不適切な遷移を受け入れる能力です。

プロセスの開始時に、温度$c_{}$の高い値により、高い目標劣化による遷移が許容され、状態空間の徹底的な探索が可能になります。

ck c_kと$c_{}$減少。ターゲットを改善する、またはターゲットの劣化の程度が低い遷移のみが受け入れられます。

最後に、$c_{}$ゼロに近づく傾向がある場合、ターゲットの劣化は受け入れられず、このとき SA アルゴリズムはモンテカルロ アルゴリズムのように動作します。

---

3. 原則

このセクションでは、SA の 2 つの基本的な理論的特性、統計的平衡と漸近収束について説明します。

3.1 統計的均衡 統計的均衡

エルゴード性の仮定に基づいて、粒子系は観察可能な統計的特性を持つ集合体と考えることができ、平均エネルギー、エネルギー分布、エントロピーなどの多くの有用な量を平衡統計系から導き出すことができます。

さらに、この粒子のセットが静止している場合、つまり統計的平衡に達している場合、平衡相の状態に関連する確率密度は系のエネルギーに依存します。

実際、平衡段階では、システムは特定の状態にあります$i$，能量为 $E_{}$の確率はボルツマンの法則によって与えられます。

定理 1 : 固定制御パラメータ$c$および次の受け入れ確率を使用して十分な数の変換を行った後

$$P_{}\left\{\text{ 受け入れます }j|S_{}\right\}=\{\begin{array}{cc}1& f\left(j\right)\text{ の場合 }<f\left(i\right)\\ e^{(\frac{f\left(i\right)-f(j}{c}}& \end{array}$$

シミュレーテッド アニーリング アルゴリズムは、確率で与えられた解$私\in S$：

$$P_{}\{X=私\}=q_{}\left(c\right)=\frac{}{N_{}\left(c\right)}{e}^{\left(-\frac{f(i}{c}\right)}$$

ここで$X$はアニーリング アルゴリズムの現在の状態を表す確率変数$N_{}\left(c\right)$は正規化係数です。

$$N_{}\left(c\right)=\underset{j\in S}{}{e}^{\left(-\frac{f(j}{c}\right)}$$

定義 7 : $A$と$B\; は、$ B ⊂ AB ⊂ Aとなる 2 つの集合です。$B\subset A.\_$ _ BBを定義します$B$の特性関数$\kappa \left(B\right)$は次のとおりです。

$$K_{(B}\left(a\right)=\{\begin{array}{l}1\text{ もし }\_\in B\\ 0\end{array}$$

系 1 : 任意の解について$私は$、両方とも持っています

$$\underset{c\to 0^{+}}{}{P}_{}\{X=私\}=\underset{c\to 0^{+}}{}{q}_{}\left(c\right)=q_{私}^{}=\frac{}{|S_{ああ}|}{K}_{(S_{ああ}}\left(私\right)$$

ここで$S_{ああ}$は全体的に最適なセットを表します。

この結果は、 ccであると仮定して、シミュレーテッド アニーリング アルゴリズムが全体的に最適なセットの要素に漸近収束することを保証します。安定分布 qi ( c ) は、$c$$q_{}\left(c\right)、私\in さ$。

離散状態空間の場合、このような分布は離散的であり、目標値$y_{}$の状態空間内の特定の点${バツ}_{}$確率:

$$q_{}\left(c\right)=\frac{e^{(-\frac{y_{私}^{}}{c}}}{{\sum }_{j\in }{e}^{\left(-\frac{y_j^{}}{c}\right)}}$$

CC用$c$の任意の正の値に対して、関数$平衡状態で最適化されたf$の期待値は<f>c<f>_cで表されます。$<f{>}_{}$、分散は$<f^2{>}_{}$。

非常に高い温度で$c$の下では、SA アルゴリズムは状態空間内でランダムに移動します。

yic = f ( xi ) y^c_i = f(x_i ) をマッピングすることにより、$y_{私}^{}=f\left(x_{}\right)$ 、プロセスによって生成された${バツ}_{}$目標値$y_{}$関連する。

このプロセスを長時間考えると、目的関数値$y_{私}^{}、(私は=1、2、...N)$分布は SA プロシージャによって生成されます。

この分布は温度に依存します$c$はq ( c ) q(c)として表されます$q\left(c\right)$。

ビッグCC用$c$値の場合、この分布はターゲット分布と等しくなります。図 1.2 は、そのような分布の例を示しています。

この図は 1D 目的関数を示しており、円はある高温で$c_{}$以下は SA アルゴリズムの例です。

水平の破線は分布の平均を示します ( $<f\left(c_{}\right)>$ )、左側では、関連する分布が点線のプロット ($q\left(c1\right)$ ) を意味します。

低温用$c_{}$、SA プロセスの一部の遷移は受け入れられません。これは、関連する分布$q\left(c2\right)$は、より低い期待値を持つより低いレベルにシフトされます (右側の目的関数の四角と左側の実線)。

定義 8 : 平衡状態におけるエントロピーは次のとおりです。

$$H_{}=\underset{i\in S}{}{q}_{}\left(c\right)\ln \left(q_{}\left(c\right)\right)$$

結果 2 : あるものは

$$\begin{array}{rl}& \frac{\partial ⟨f{⟩}_{}}{\partial c\_}=\frac{p_c^{}}{c^2}\\ & \frac{\partial H{\_}_{}}{\partial c\_}=\frac{p_c^{}}{c^3}\end{array}$$

これら最後の 2 つの式は、統計力学において重要な役割を果たします。また、次の式も導き出されます。

推論 3 :

$$\begin{array}{cc}{\mathrm{リム}}_{c\to }⟨f⟩\_{\_}_{}=⟨f⟩\_{\_}_{}=\frac{}{|S|}{\sum }_{i\in }f\left(i\right)& {\mathrm{リム}}_{c\to }⟨f⟩\_{\_}_{}=⟨f⟩\_{\_}_{}=f_{}\\ {\mathrm{リム}}_{c\to }{p}_c^{}=p_{\infty }^{}=\frac{}{|S|}{\sum }_{i\in }{\left(f\left(i\right)-⟨f⟩\_{\_}_{}\right)}^2& {\mathrm{リム}}_{c\to }{p}_c^{}=p_0^{}=0\\ {\mathrm{リム}}_{c\to }{H}_{}=H_{}=\ln (|S|& {\mathrm{リム}}_{c\to }{H}_{}=H_{}=\ln (|S_{}|\end{array}$$

ここで、$f_{}$FFを意味します$f$の最適値、この最後の式は熱力学の第 3 法則を表します (最小エネルギー状態が 1 つだけであると仮定すると、次のようになります:$S_{}=ln\left(1\right)=0$ )。

物理学では、エントロピーはシステムに関連する無秩序の度合いを測定します。高いエントロピー値は無秩序な構造を示し、低い値は組織化を反映します。

最適化の文脈では、エントロピーは達成される最適性の程度の尺度に関連します。連続した SA 反復中、目的関数値とエントロピーの数学的期待値はそれぞれ$f_{}$和$ln(|S_{}|)$は減少し収束する。

分布 $q_{}\left(c\right)$温度$c$の導関数は

$$\frac{\partial q{\_}_{}(c}{\partial c\_}=\frac{q_{}(c}{c^2}\left[⟨f{⟩}_{}-f\left(i\right)\right]$$

ため$⟨f⟩\_{\_}_{}\le ⟨f⟩\_{\_}_{}$、模擬アニーリング中に 3 つの状態を示すことができます。より正確には、次のように表示できます。

系 4 : $(S、f)$は SO pt ≠ S S_{Opt} \neq Sを持ちます$S_{}\ne S$の組み合わせ最適化問題のインスタンス$q_{}\left(c\right)$は、アニーリング プロセスに関連する定常分布です。次に、次のようになります。

この結果は、$c$が減少するにつれて、最適解を見つける確率は単調増加します。さらに、最適でない解については、正の値${\bar{c}}_{}$、 c < c ˉ iの場合 c<\bar{c}_i となる$c<{\bar{c}}_{}$、解決策が見つかる確率は$c$の減少は減少します。

定義 9 : シミュレーテッド アニーリング アルゴリズムに関連付けられた合格率は次のように定義されます。

$$\times \left(c\right)=\frac{\text{ 受け入れられた }}{\text{ 提案された移行の数 }}$$
原則として、$c$の値が大きい場合、すべての遷移が受け入れられ、$\chi \left(c\right)$は1 1に近い$1$。

次に、$c\; が$減少すると、$\chi \left(c\right)$は0 0に達するまでゆっくりと減少します。$0\; は$、遷移が受け入れられないことを意味します。

⟨ f ⟩ c \langle f\rangle_cを観察することによって$⟨f⟩\_{\_}_{}$和$p_c^{}$CCとして$c$の関数を発展させると、遷移しきい値 ($c_{}$)、平衡分布の 2 つの異なる領域を区切ります。閾値は値$c_{}$、 そのような：

$$⟨f⟩\_{\_}_{c_{}}\approx \frac{}{2}\left(<f_{}>+f_{}\right)$$

と

$$\begin{array}{rl}& p_c^{}\approx p_{\infty }^{}c\text{ の場合 }\ge c_{}\\ & <p_{\infty }^{}c\text{ の場合 }<c_{}\\ & \end{array}$$

したがって、任意の$c$値、サーチスペース$S\; は$2 つの領域に分けることができます。

1. $R_{}$エリア：$c\; が$減少すると、$p_c^{}$ほぼ一定のまま ( σ ∞ 2 σ^2_∞に近い)$p_{\infty }^{}$)
2. $R_{}$地域: $c\; が$減少すると、$p_c^{}$減らす

CCのとき$c\; は$ct c_tに近いです$c_{}$値の場合、合格率は約$0.5$ (つまり$x\left(c_{}\right)\approx 0.5$）。さらに、次のことも証明できます。

• R1R_1内$R_{}$、より大きな$c$值，$⟨f⟩\_{\_}_{}$c − 1 c^{-1}で$c^{-1}$は線形、$p_c^{}$ほぼ一定
• R2R_2で$R_{}$中、小さい$c$值，$⟨f⟩\_{\_}_{}$CC付き$c$は、$p_c^{}$c 2 c_2付き$c_{}$比例

次のようなものが考えられます$⟨f⟩\_{\_}_{}$和$p_c^{}$おおよそのモデル:

ここで、大まかに言えば、$\gamma$是$⟨f⟩\_{\_}_{}$の一次近似。最後に、 H ( c ) H(c)として表される比熱を導入しましょう。$H\left(c\right)$は次のように与えられます。

$$H\left(c\right)=\frac{d⟨f{⟩}_{}}{dc\_}=\frac{⟨f⟩\_{\_}_c^{}-⟨f⟩\_{\_}_c^{}}{k_{}{c}^2}$$

大きい方の$H\left(c\right)$値は、材料が固体になり始めていることを示します。この場合、温度低下率を減らす必要があります。

3.2 漸近収束 漸近収束

シミュレーテッド アニーリング アルゴリズムには、無限に小さい減衰ステップ サイズで無限に長い温度減衰マップが提供される限り、大域的最適値に向かって確率的に収束する特性があります。

この減衰スキームは純粋に理論的なものであり、実際には妥当な実行時間内でこの理想に近づくことを試みます。

定義 10 : マルコフ連鎖は、特定の状態に到達する確率が前の状態にのみ依存する一連の状態です。X ( k ) X(k)とします。$X\left(k\right)$はkk 番目です$k$回の反復で状態に到達しました次に、各状態ペア$(私、j)$ k$k$回の反復における遷移確率は次$P_{}\left(k\right)=Pr\left\{X\right(k)=j|X(k-1)=i\}$を与えます。出現行列$\left[P_{}\right(k)]\; は$伝達行列と呼ばれます。シミュレーテッド アニーリングのコンテキストでは、マルコフ連鎖遷移は状態空間内の移動 (生成 + 受け入れ) に対応します。

定義 11 : SA アルゴリズムの遷移確率は次の式で与えられます。

$$\forall i、\_j\in S：P_{}\left(k\right)=P_{}\left(c_{}\right)=\{\begin{array}{ll}{G}_{}\left(c_{}\right){あ}_{}\left(c_{}\right)& \text{ もし }私が\ne j\\ 1-{\sum }_{私\ne }{P}_{私}(c_{}& \text{ もし }私が=\end{array}$$

ここで$G_{}\left(c_{}\right)$は状態 I から状態 j を生成する確率を表します。

${あ}_{}\left(c_{}\right)$州iiから受け入れられます$i$によって生成された$j$の確率。

すべての i に対して$私、j\in S$，${あ}_{}\left(c_{}\right)$は次のように与えられます。

$$\begin{array}{rl}& {あ}_{}\left(c_{}\right)=e^{\left(-\frac{\left(f\right(j)-f(i){)}^{}}{c_{}}\right)}\\ & \text{ と }{\_}^{+}=\{\begin{array}{l}もしも\text{ \_ }\_>0\\ \end{array}\end{array}$$

定理 2 : 次の条件が満たされると仮定します。

$$\forall i、\_j\in S\exists p\ge 1\exists l_{}、{私}_{}、\dots 、{私}_{}\in S$$

$一緒に\_\_\_{}_{}=私、{私}_{}=j、\text{ と }{G}_{{私}_{}、l_{k+}}>0、k=0、1、\dots 、p-1\text{. }$

このとき、マルコフ連鎖には$q\left(c\right)$の定常分布。温度ccでの SA アルゴリズムです。$c$の下で訪問される解の分布。その成分は次のように与えられます。

$$q_{}\left(c\right)=\frac{}{N_{}\left(c\right)}{e}^{(-\frac{f(i}{c}）}、\forall i\_\in S$$

ここで、$N_{}\left(c\right)$は正規化係数です

ここで${バツ}_k^{}$温度ccで表す$c$で取得した$k$回の反復。この結果は、シミュレーテッド アニーリング アルゴリズムが最適解の 1 つに収束していることを示しています。

定理 3 : 生成と受け入れの確率が次の仮定を満たすと仮定します。

次に、任意の反復で$k$、定常分布$q\left(c_{}\right)$、そのコンポーネントは次のように与えられます。

$$q_{}\left(c_{}\right)=\frac{{あ}_{{私}_{}}(c_{}}{{\sum }_{j\in }{あ}_{{私}_{}}\left(c_{}\right)}\forall i\_\in S\text{ と }{私}_{}\in S_{}$$

さらに、任意の${私}_{}\in S_{}$、我々は持っています：

$$\underset{c_{}\to 0^{+}}{}{q}_{}\left(c_{}\right)=\frac{}{|S_{}|}{K}_{(S_{}}\left(私\right)$$

実際、指数分布を除いて、${あ}_{}、A_{}、A_{}$受け入れ配布。

上記の理論的結果は、$c_{}$の各値には無限の反復回数があり、$c_{}$値は$0$が減ります。

温度ステップごとの反復回数が有限である場合、SA はマルコフ不均一モデルを使用してシミュレートでき、同様の結果を確立できます。

シミュレーテッド アニーリング アルゴリズムは、最適化問題の最適解に収束しますが、この最適解に到達するには、無限数の遷移が必要です。漸近挙動の近似には、状態空間のカーディナリティに等しいオーダーの多数の反復が必要ですが、これは NP 困難問題の場合には現実的ではありません。

したがって、組み合わせ最適化問題の大域的解に近づくためのメカニズムとしてアニーリングを考慮する必要があり、最適値に正確に到達できる局所探索手法を追加する必要があります。

言い換えれば、シミュレーテッド アニーリングにより、正しい引力領域内での移動が可能になり、ローカル手法では、問題の大域最適に対応するこの引力領域内での局所最適を決定することでプロセスを最適化します。

---

4. 現実的な問題

このセクションでは、特定の問題に対して SA アルゴリズムを実装したいと考えている友人にとって興味深い次の実際的な問題について概説します:有限時間近似、多項式時間冷却、マルコフ連鎖の長さ、停止基準、およびシミュレーション ベースの評価。

4.1 有限時間近似 有限時間近似

実際には、収束条件は各反復 k でパラメーター$c_{}$この温度では、減衰ステップ サイズが比較的小さく、遷移$L_{}$近似する。

直感的には、減少量が大きいほど、準平衡状態 (以下に定義) までの安定化ステップの長さが長くなります。したがって、「大きな減少量」と「長さ」の間で L_k がかかります$L_{}$間のバランス。

シミュレーテッド アニーリング アルゴリズムの有限時間実装は、制御パラメーター$c$の値の有限減少シーケンスにより、有限長の同次マルコフ連鎖が生成され、次のことが実現されます。

定義 12 : 冷却プロセスは次のように定義されます。

1. 制御パラメータ$c$の値の有限シーケンス
   • 初期値$c_{}$
   • パラメータ$c$の減衰関数
   • $c$の最終値
2. 制御パラメータの各値に対する有限数の遷移、つまり関連するマルコフ連鎖の有限長

定義 13 : $\epsilon$は十分に小さい正の値、$k$は指定された反復回数、$L_{}$k番目です$k\; 個$のマルコフ連鎖の長さ、$c_{}$は制御パラメータの値です。マルコフ連鎖の場合$L_{}$反復後の解の確率分布 ( $(L{\_}_{}、c_{})$ ) で表される分布は定常分布q ( ck ) q(c_k)に十分近い$q\left(c_{}\right)$、準平衡があると言います。

$$\begin{array}{c}{q}_{}\left(c_{}\right)=\frac{}{N_{}\left(c_{}\right)}{e}^{-\frac{f(i}{c_{}}}\forall i\_\in Ｓ、\\ N_{}\left(c_{}\right)=\underset{j\in S}{}{e}^{-\frac{f(j}{c_{}}}\end{array}$$

あれは：

$$\Vert \_\left(L_{}、c_{}\right)-q\left(c_{}\right)\Vert <e$$

準平衡原理を使用した冷却プロセスは、次の観察に基づいています。パラメータ$c_{}$∞ ∞に向かう$\infty$、安定分布は可能な解集合$S$に関する統一法則は

$$\underset{c_{}\to \infty }{}q\left(c_{}\right)=\frac{}{|S|}1$$

ここで$1$は次元$|S|$ベクトル、その成分はすべて$1$。

したがって、十分に大きい$c_{}$、探索空間の各点は、$L_{}$の値が何であっても、準平衡状態に直接到達します。

冷却プロセスは、各マルコフ連鎖 (L_k,c_k) の終端で準平衡となる値 (L k , ck ) を決定することから構成されます。$(L_{}、c_{}）$。

考えられる冷却プロセスは数多くありますが、最も一般的な 2 つは、Kirkpatrick によって提案された幾何学的プロセスと、Aarts と Van Laarhoven によって提案された多項式時間冷却です。

4.2 幾何学的冷却

• 初期温度$c_{}$: 十分に大きな$c_{}$最初の反復でほとんどすべての遷移が受け入れられるような値です。そのような値を見つけるには、小さな値$c_{}$始める。次に、その値に1 1より大きい値が徐々に乗算されます。$1$合格率$x\left(c_{}\right)$ 1 1に近い$1$。
• 制御パラメータ$c$の減衰:$c_{k+}=\alpha c{\_}_{}$、ここで$\alpha は$一般的に0.8～0.99かかります
• 停止准则：当当前解在足够大的迭代次数期间从一次迭代到下一次迭代不再改变时，判定算法终止。
• 链条的长度：理论上，需要让每条链达到准平衡状态。为此，必须执行足够数量的可接受转换，这通常取决于问题。由于被接受的转变的数量相对于被提议的转变的数量 $L_k$ 随时间减少，所以后者必须是下限。

4.3 Cooling in Polynomial Time 多项式时间冷却

让我们解释一下如何设置温度参数的初始值，以及如何迭代地减小它。

4.3.1 初始温度

设 $m_1$ 是严格提高目标函数值的建议转换总数，$m_2$ 是其他(增加的)建议转换数。此外，设 ${\bar{\Delta }}_f^{(+)}$ 是所有递增转换的成本差的平均值。那么，接受率可以近似为：

$$\chi (c)\simeq \frac{m_1+m_2{e}^{-\left(\frac{{\bar{\Delta }}_f^{(+)}}{c}\right)}}{m_1+m_2}$$

这产生了

初期温度$c_{}$推奨される初期値は次のように定義されます。

初期状態では、$c_{}$0 0に設定されます$0$。その後、 m 0 m_0のシーケンス${メートル}_{}$m 1 m_1を変換、計算します${メートル}_{}$そして${メートル}_{}$価値。

すると、$c_{}$の初期値は式 (1.2) によって計算されます。ここで、受け入れ率$\chi \left(c\right)$の値はユーザー定義です。次に$c_{}$の最終値は、冷却プロセス中の初期値として使用されます。

4.3.2 制御パラメータの減衰

準平衡状態は次のように置き換えられます。

$$\forall ｋ\_\ge 0：\Vert q\left(k\right)-q(k+1)\Vert <e$$

したがって、制御パラメータ$c_{}$そして$c_{k+}$に近い定常分布が予想されます。これは次の式で定量化できます。

ここで、$\delta$は、先験的に与えられた小さな正の数です。次の定理は、式 (1.3) を満たすために必要な条件を提供します。

定理 4 : $q\left(c_{}\right)$は反復$k$でのシミュレートされたアニーリング プロセスに関連付けられたマルコフ連鎖の定常分布$c_{}$そして$c_{k+}$は、制御パラメータの 2 つの連続する値です。ここで、$c_{k+}<c_{}$、次の場合、(1.3) 式を満たします。

必要条件 (1.4) は次のように書き換えることができます。

後者の条件 (1.5) は次のように近似できることがわかります。

ここで、$p_{c_{}}$温度は$c_{}$次の$q\left(c_{}\right)$標準偏差。

温度パラメータ$c$はユーザー定義パラメータ$d$電気。$\delta$の値が大きいと$c$の大幅な減少、一方で$\delta$の値が小さいと$c$のわずかな減少

4.3.3 マルコフ連鎖の長さ

SA 冷却中、マルコフ連鎖の長さは、特定の解$私\in$近所のS i S_i$of\; S$$S_{}$かなりの割合で。この割合を定量化するには、次の定理が使用されます。

定理 5 : $S$は基数$|S|$セット。それから$N$回のランダム ウォーク中に訪問された$S$要素の平均数は次の式で求められます。

したがって、変換が受け入れられず、$N=|S_{}|$、その後、解ii近所のS i S_i$of\; i$$S_{}$訪問した解のパーセンテージは次のとおりです: $1-e^{-1}\simeq 2/3$。

$L_{}=|S_{}|$反復 k で内側のループを与えます (温度は$c_{}$) は、明らかに∣ S i ∣ |S_i|である場合、反復回数としては良い選択です。$|S_{}|問題に関連しており$、ユーザーが設計する必要があります。

4.3.4 停止基準

令$\Delta ⟨f{⟩}_{c_{}}=⟨f⟩\_{\_}_{c_{}}-f_{}$。

背景、$\Delta ⟨f{⟩}_{c_{}}$⟨ f ⟩ c 0 \langle f\rangle_{c_0}との相対関係$⟨f⟩\_{\_}_{c_{}}$「十分な」時間が経過すると、アルゴリズムの実行が終了するはずです。

十分に高い$c_{}$値の場合、$<f_{c_{}}>\simeq ⟨f⟩\_{\_}_{}$

また、$c_{}<<1$：

$$\Delta ⟨f{⟩}_{c_{}}\simeq c_{}\frac{\partial ⟨f{⟩}_{c_{}}}{\partial c{\_}_{}}$$

次に、アルゴリズムのエンドポイントは次のように決定されます。

$$\frac{c_{}}{⟨f⟩\_{\_}_{}}\frac{\partial ⟨f{⟩}_{c_{}}}{\partial c{\_}_{}}<e_{}c\text{ の場合 }{}_{}<<1$$

ユーザーは小さな許容誤差$e_{}$。

4.3.5 概要

したがって、多項式時間での冷却プロセスは次のようにパラメータ化されます。

• 初期受け入れ率: $x\left(c_{}\right)$
• パラメータ$\delta$によって制御される連続する定常分布間の距離
• パラメータ$e_{}$制御された停止基準

この冷却プロセスの反復回数は有限であり、次の定理によって特徴付けることができます。

定理 6 : デクリメント関数を次のように与えます。

KKしましょう$K$は、停止基準を満たす最初の整数です。すると、 K = O ( ln ( ∣ S ∣ ) ) K = O(ln(|S|)) となります。$K=O\left(ln\right(|S|))$。

したがって、$ln(|S|)$は問題サイズが多項式である場合 (多くの組み合わせ最適化問題の場合と同様)、このタイプの冷却によりアルゴリズムが多項式で実行されます。

各問題には最適なアニーリング スキームがあり、どれが自分のアプリケーションに最適であるかを決めるのはユーザー次第です。

最適なアニーリング スキームに関する事前情報がない場合 (通常はこれに当てはまります)、標準のジオメトリ スキームに依存する必要があります。

標準ジオメトリ スキームの場合、パラメータ$c_{}$展開は次のとおりです: $c_{k+}={ある}_{}{c}_{}$、対象となる問題クラスのいくつかの代表的なインスタンスでパラメータ${ある}_{}$そして$L_{}$。

この幾何学的なアプローチはすべての問題に対して最適であるわけではありませんが、最適なアニーリング スキームよりも収束に時間がかかる場合でも、堅牢で近似解への収束が保証されるという利点があります。

4.4 シミュレーションによる評価 シミュレーションによる評価

多くの最適化アプリケーションでは、目的関数は、シミュレートされた環境を必要とするコンピューター シミュレーション プロセスの結果として評価されます。

この場合、最適化アルゴリズムは決定変数XXを制御します。これらの決定のパフォーマンス (品質) を計算するためにシミュレーション プロセスで使用される$X変数のベクトル\; yy$図 1.3 に示すように、$y\; 。$

この場合、人口ベースのアルゴリズムは、主にシミュレートされた環境で大量のストレージ スペースが必要な場合 (今日の実際の複雑なシステムではよくあることです) に、このような問題の解決には適さない可能性があります。

実際、母集団ベースのアプローチの場合、ソリューション母集団の個人ごとにシミュレートされた環境を複製する必要があり、これには大量のメモリが必要になる可能性があります。

この欠点を回避するには、母集団内の点を評価する必要があるたびに使用されるシミュレーション環境を 1 つだけ使用することを検討してください。

シミュレーション環境が開始された最初の人物が最初に考慮され、その最初の人物に関連付けられたシミュレーションが実行されます。次に、関連するパフォーマンスが最適化アルゴリズムに転送されます。その後、2 人目の人が評価されますが、最初に模擬環境を最初の模擬イベントからクリアする必要があります。次に、母集団の最後の個人が評価されるまで、2 番目の個人に対してシミュレーションが実行されます。

この場合、ストレージ容量は問題になりませんが、評価を実行するたびにシミュレーション環境をリセットする必要があるため、評価時間が長すぎ、プロセス全体が遅すぎる可能性があります。

標準のシミュレーテッド アニーリング アルゴリズムでは、提案された遷移ごとに状態空間点のコピーが必要です。実際、点${バツ}_{}$現在の点X i X_iからのもので、コンピュータ メモリ内のコピーを経由します。${バツ}_{}$生成されました。大きな次元の状態空間の場合、そのような複製を達成するための単純な手順は非効率的である可能性があり、シミュレートされたアニーリングのパフォーマンスを大幅に低下させる可能性があります。

この場合、生成の影響を取り除くため、return 演算子を考慮する方がより効率的です。GGさせてください$G$は点を${バツ}_{}$X j X_jに変換${バツ}_{}$の生成演算子は次のとおりです。

$$\begin{array}{c}G\\ {バツ}_{}\to {バツ}_{}\end{array}$$

回帰演算子は、生成演算子$G^{-1}$。

通常、このようなビルドでは、現在のソリューションの 1 つのコンポーネントのみが変更されます。

この場合、ベクトル${バツ}_{}$変更はできますが、コピーはできません。この新しい点を評価するときに得られる値に応じて、2 つのオプションが考慮されます。

1. 新しい解は受け入れられます。この場合、現在の目的関数の値のみが更新されます。
2. それ以外の場合は、演算子$G^{-1}$が新しい位置に適用され、メモリ内でのコピーを行わずに前の解に戻ります${}^{。}$

このプロセスを図 1.4にまとめます。

return 演算子は、アルゴリズムによる状態空間の検索に望ましくない歪みを容易に導入する可能性があるため、注意して使用する必要があります。たとえば、全体的な評価を計算するためにいくつかの二次評価変数が使用および変更された場合、これらの変数も初期値に復元する必要があるため、戻り演算子は状態空間の一貫性を保証する必要があります。

---

5. フローチャート

---

6. まとめ

• このブログでは、グローバル最適化のためのメタヒューリスティック アルゴリズムであるシミュレーテッド アニーリング (SA) について詳しく説明します。
• SA の主な利点はシンプルさです。
• SA は材料の物理的アニーリングの類似性に基づいており、効果的なメトロポリス許容基準によるモンテカルロ法の欠点 (極小値でのトラップの可能性) を回避します。
• 母集団ベースのアルゴリズムは、目的関数の評価に大量のメモリが必要な場合（大量のメモリを必要とする大次元の状態空間を操作する複雑なシミュレーション プロセスの結果である場合など）には適しておらず、シミュレーテッド アニーリングが適しています。これらの問題のために。

---

7. ケースの説明とコードの練習

[オペレーショナルリサーチ最適化] TSP問題を解決するSAシミュレーテッドアニーリングアルゴリズム + Javaコード実装