최적화 알고리즘 시리즈(1)의 시뮬레이션 어닐링 알고리즘 - 기본 원리의 보링 버전

최적화 알고리즘 시리즈(1)의 시뮬레이션 어닐링 알고리즘 - 기본 원리의 보링 버전

추천 도서 --> "지능형 최적화 알고리즘 및 MATLAB 예제(제2판)"

Zhihu의 이미지 설명:

　　바닥이 울퉁불퉁하고 구덩이가 많은 큰 냄비 냄비를 흔들면 작은 공이 전역 최소값에 도달합니다. 처음에는 흔들림이 심하고 작은 공의 변화가 상대적으로 크며 전역 최소로 갈수록 흔들리는 냄비의 진폭이 점차 줄어들어 결국 냄비가 흔들리지 않고, 작은 공은 전역 최소값에 도달합니다.

1. 연혁 (관심없으면 건너뛰어도 됨)

　　최적화 문제를 근사화하기 위해 Monte Carlo의 설계를 기반으로 한 방법인 유명한 모의 어닐링 알고리즘입니다.

　　미국의 물리학자 N. Metropolis와 동료들은 1953년에 복잡한 시스템에 대한 연구와 그 내부의 에너지 분포 계산에 관한 논문을 발표했습니다.그들은 몬테카를로 시뮬레이션을 사용하여 다중 분자 시스템에서 분자의 에너지 분포를 계산했습니다. 이것은 이 글에서 논의된 문제의 시작에 해당하며, 실제로 모의 어닐링에서 자주 언급되는 용어는 나중에 소개할 메트로폴리스 기준(Metropolis criterion)입니다.

　　미국 IBM Corporation의 물리학자인 S.Kirkpatrick, CD Gelatt 및 MP Vecchi는 1983년 "Science"에 영향력 있는 기사 "Optimization by Simulated Annealing"을 발표했습니다. 스핀글래스계(Spin Glass System)를 탐구하기 위해 Metropolis 등의 방법을 차용했을 때, 그들은 물리계의 에너지와 몇 가지 조합 최적화 문제(유명한 외판원 문제 TSP가 대표적인 예임)가 상당히 크다는 것을 발견했습니다. 유사: 가장 낮은 비용을 찾는 것은 가장 낮은 에너지를 찾는 것과 같습니다. 그 결과 메트로폴리스 방식을 기반으로 일련의 알고리즘을 개발하고 이를 조합 문제를 해결하고 최적의 솔루션을 찾는 데 사용했습니다.

　　거의 동시에 유럽의 물리학자 V. Carny도 거의 동일한 결과를 발표했지만 둘 다 독립적으로 발견되었습니다. 단지 Carny가 "불운"했고 당시 아무도 그의 걸작을 알아차리지 못했다는 것입니다. "Science" 잡지는 높은 수준의 "노출"로 전 세계적으로 판매되고 잘 알려져 있습니다. 그러나 Carny는 다른 학술지인 "J.Opt.Theory Appl."에 그의 결과를 발표했습니다.

　　Kirkpatrick 등은 Metropolis 등의 Monte Carlo 시뮬레이션에서 영감을 받아 물체의 어닐링 프로세스와 유사하기 때문에 "시뮬레이션 어닐링"이라는 용어를 발명했습니다. 문제의 최적 솔루션(최대값)을 찾는 것은 시스템의 가장 낮은 에너지를 찾는 것과 유사합니다. 따라서 시스템이 냉각되면 에너지가 점차 감소하고 같은 의미에서 문제의 솔루션도 최소값으로 "떨어집니다".

       고체 어닐링:

       1. 먼저 고체를 가열하여 녹인 다음 천천히 식힙니다.

       2. 어닐링은 시스템이 각 온도에서 평형에 도달하도록 천천히 수행되어야 합니다.

       3. 냉각 중에 온도를 급격히 낮추지 마십시오.

       모의 어닐링 알고리즘:

       1. 초기 솔루션 i0에서 시작하여 L번 솔루션 변환(Metropoils 알고리즘에 따라 매번) 후 주어진 온도에서 상대적 최적 솔루션을 얻습니다.

       2. 제어 매개변수 T를 줄이고 솔루션을 다시 변환합니다(위와 같이).

       3. 제어 매개변수 T가 0이 될 때 최적의 솔루션을 얻습니다.

2. 어닐링이란 - 물리적 기원

　　열역학에서 어닐링 현상이란 물체가 점차 냉각되는 물리적 현상을 말하며 온도가 낮을수록 물체의 에너지 상태가 낮아지고 충분히 낮아지면 액체가 응결되어 결정화되기 시작합니다. 상태, 시스템의 에너지 상태가 가장 낮습니다. 자연이 천천히 냉각되면(즉, 어닐링) 가장 낮은 에너지 상태인 결정화를 "찾을" 수 있습니다. 그러나 프로세스가 너무 빠르고 빠르면 급속 냉각("담금질"이라고도 함)으로 인해 에너지가 가장 낮은 상태가 아닌 비정질 상태가 됩니다.

　　아래 그림과 같이 먼저(왼쪽) 객체가 무정형 상태입니다. 고체를 충분히 높은 온도로 가열하고(가운데 이미지) 천천히 식히거나 어닐링합니다(오른쪽 이미지). 가열하면 온도 상승에 따라 고체 내부의 입자가 무질서해지고 내부 에너지가 증가하는 반면 천천히 냉각하면 입자가 점차 규칙적이 되어 각 온도에서 평형에 도달하고 최종적으로 실온에서 기저 상태에 도달하며, 내부 에너지가 감소합니다. 이 가장 작습니다(이 시점에서 물체는 결정 형태로 나타납니다).

　　자연은 천천히 신중하게 작업하는 방법을 알고 있는 것 같습니다. 물체의 분자가 각 온도에서 정착을 찾을 수 있는 충분한 시간을 가질 수 있도록 천천히 식히고 점차적으로 가장 낮은 에너지 상태를 얻을 수 있습니다. 시스템이 가장 안정적입니다.

3. 메트로폴리스( 몬테카를로 ) 기준　　

　　1953년 Metropolis는 이러한 중요도 샘플링 방법을 제안했는데, 즉 현재 상태 i에서 새로운 상태 j가 생성되면 새로운 상태의 내부 에너지가 상태 i의 내부 에너지보다 작으면(Ej<Ei) 새로운 상태 j는 새로운 상태 j로 받아들여집니다. 그렇지 않으면 확률 exp[-(Ej-Ei)/kT]로 상태 j를 받아들입니다. 여기서 k는 소위 메트로폴리스 기준인 볼츠만 상수입니다.

Metropolis( Monte Carlo ) 기준 　　에 따르면 입자가 온도 T에서 균형을 이룰 확률은 exp(-ΔE/(kT))입니다. 여기서 E는 온도 T에서의 내부 에너지이고 ΔE는 입자의 변화 수이고 k는 k입니다. 볼츠만 상수입니다. 메트로폴리스 기준은 종종 다음과 같이 표현됩니다.

　　

-------------------------------------------------- -------------------------------------------------- -------------------------------------------------- -------------------------------------------------- ----------

　　열역학의 원리에 따르면 온도가 T일 때 dE의 에너지 차이로 온도가 떨어질 확률은 p(dE)이며 다음과 같이 표현됩니다. 

   　　　　　　 

　　그 중: k는 볼츠만 상수이고, 값은 k=1.3806488(13)×10-23,

　　　　  exp는 자연 지수를 나타내고,

　　　　  dE<0

                데/kT<0

                p(dE) 함수의 값 범위는 (0,1)입니다.

                확률밀도함수의 정의를 만족한다.

                사실, 이 공식의 보다 직관적인 의미는 온도가 높을수록 p(dE)의 에너지 차이로 온도 강하 확률이 커지고 온도가 낮을수록 온도 강하 확률이 작아진다는 것입니다.
　　

　　실제 문제에서 "확률"의 계산은 금속 제련의 어닐링 프로세스를 의미합니다. 현재 실행 가능한 솔루션이 x이고 반복 업데이트 후 솔루션이 x_new라고 가정하면 해당 "에너지 차이"는 다음과 같이 정의됩니다. 
　　　　　　　Δf=f(x_new)-f(x).

　　해당 "특정 확률"은 다음과 같습니다. 
  　　　　　　

　　참고: 실제 문제에서는 k=1로 설정할 수 있습니다. kT는 매개변수 T와 같을 수 있기 때문입니다. 예를 들어 k=2, T=1000으로 설정하면 직접 T=2000으로 설정한 효과와 같습니다.

4. 모의 어닐링 도입 (Simulate Anneal)

　　이제 다음과 같은 함수가 있고 함수의 (전역) 최적 솔루션을 찾고자 한다고 상상해 보십시오. Greedy 전략이 채택되면 A 지점부터 테스트를 시작하고 함수 값이 계속 감소하면 테스트 프로세스가 계속됩니다. 그리고 우리가 B 지점에 도달하면 분명히 우리의 탐색 과정은 끝났습니다(우리가 어떤 방향으로 열심히 일하든 결과는 점점 더 커질 것이기 때문입니다). 결국 부분적인 최종 솔루션 B만 찾을 수 있습니다.

　　모의 어닐링은 실제로 Greedy 알고리즘이지만 검색 프로세스에서 무작위 요소를 도입합니다. 실현 가능한 솔루션을 반복적으로 업데이트할 때 일정 확률로 현재 솔루션보다 나쁜 솔루션을 수용하므로 이 로컬 최적 솔루션을 뛰어넘어 글로벌 최적 솔루션에 도달할 수 있습니다. 다음 그림을 예로 들어 초기 솔루션이 왼쪽의 파란색 점 A라고 가정하면 시뮬레이션 어닐링 알고리즘은 로컬 최적 솔루션 B를 빠르게 검색하지만 로컬 최적 솔루션을 검색한 후 여기에서 끝나지 않습니다. , 그러나 일정 확률로 수락합니다. 왼쪽으로 이동합니다. 아마도 이러한 비국소적 최적 이동을 여러 번 한 후에 전역 최적점 D에 도달한 다음 국부적 최소값이 튀어나올 것입니다.

　　재미있는 은유

　　언덕 오르기 알고리즘 : 토끼가 지금보다 더 높은 곳을 향해 점프합니다. 그리 멀지 않은 곳에서 가장 높은 산을 찾았다. 그러나 그 산이 반드시 에베레스트 산일 필요는 없습니다. 이것은 지역 최적이 전역 최적이라는 것을 보장할 수 없는 언덕 오르기 알고리즘입니다.

　　　　　　(굉장히 게을러서 지금보다 더 높게 본다면 받아줄게)

　　모의 어닐링 : 토끼가 취했습니다. 그것은 오랫동안 무작위로 점프합니다. 이 기간 동안 높은 곳으로 이동하거나 평지로 발을 디딜 수 있습니다. 그러나 점차 깨어나 가장 높은 방향을 향해 뛰어올랐다. 이것은 모의 어닐링입니다.

　　　　　　(처음에는 신이 났고, 여기저기 노력했고, 많이 변했습니다. 나중에는 지쳐서 점차 속도를 늦추고 지금 이 순간 가장 높은 지점을 향해 오르고 있습니다.)　　

5. 모의 어닐링 원리

　　SAA(Simulated Anneal Arithmetic)는 넓은 검색 공간에서 명제의 최적 솔루션을 찾는 데 사용되는 일반 확률 알고리즘입니다.

　　시뮬레이션 어닐링의 원리도 금속 어닐링의 원리와 유사합니다: 열역학 이론을 통계에 적용하고 검색 공간의 각 지점을 공기 중의 분자로 상상합니다. 분자의 에너지는 자체 운동 에너지입니다. 각 지점은 다음과 같습니다. 공기 분자는 또한 그 점이 명제에 얼마나 잘 맞는지를 나타내는 "에너지"를 전달합니다. 알고리즘은 검색 공간의 임의 지점에서 시작합니다. 각 단계에서 "이웃"이 선택된 다음 기존 위치에서 "이웃"에 도달할 확률이 계산됩니다.

6. 모의 어닐링 알고리즘 모델

모의 어닐링 알고리즘은 솔루션 공간, 목적 함수 및 초기 솔루션의 세 부분으로 분해될 수 있습니다.

• • 모의 어닐링의 기본 아이디어:
    • (1) 초기화: 초기 온도 T(충분히 큼), 초기 솔루션 상태 S(알고리즘 반복 시작점), 각 T 값에 대한 반복 횟수 L
    • (2) k=1, ..., L에 대해 단계 (3)에서 6까지 수행:
    • (3) 새로운 솔루션 S' 생성
    • (4) 증분 Δt′=C(S′)-C(S)를 계산합니다. 여기서 C(S)는 평가 함수||최적화 대상입니다.
    • (5) Δt'<0이면 S'를 새로운 현재 솔루션으로 받아들이고, 그렇지 않으면 확률 exp(-Δt'/T)로 S'를 새로운 현재 솔루션으로 받아들입니다.
    • (6) 종료 조건을 만족하면 현재 해를 최적해로 출력하고 프로그램을 종료한다. 종료 조건은 일반적으로 여러 개의 연속적인 새 솔루션이 수락되지 않을 때 알고리즘을 종료하도록 선택됩니다.
    • (7) T가 점차 감소하여 T->0이 되면 2단계로 진행한다.

　　알고리즘은 동적 데모 다이어그램에 해당합니다.

　　

• • 시뮬레이션 어닐링 알고리즘의 새로운 솔루션 생성 및 수용은 다음 네 단계로 나눌 수 있습니다.
    • 첫 번째 단계는 생성 함수에 의해 현재 솔루션에서 솔루션 공간에 새로운 솔루션을 생성하는 것인데, 후속 계산 및 수용을 용이하게 하고 시간이 많이 소요되는 알고리즘을 줄이기 위해 단순히 변환하여 새로운 솔루션을 생성하는 방법입니다. 현재의 새로운 솔루션은 일반적으로 새로운 솔루션을 구성하는 요소의 전부 또는 일부를 교체하거나 교환하는 것과 같이 선택됩니다. 냉각 일정 선택.
    • 두 번째 단계는 새로운 솔루션에 해당하는 목적 함수의 차이를 계산하는 것입니다. 목적 함수 차이는 변환된 부분에 의해서만 생성되기 때문에 목적 함수 차이의 계산은 점진적으로 수행되는 것이 바람직합니다. 이것은 대부분의 응용 프로그램에서 목적 함수의 차이를 계산하는 가장 빠른 방법인 것으로 나타났습니다.
    • 세 번째 단계는 새로운 솔루션이 승인되었는지 여부를 판단하는 것입니다. 판단은 승인 기준을 기반으로 합니다. 가장 일반적으로 사용되는 승인 기준은 Metropolis 기준입니다: Δt'<0이면 S'를 새로운 현재 솔루션 S로 승인하고, 그렇지 않으면 , 확률 exp(- Δt'/T)는 S'를 새로운 현재 솔루션 S로 받아들입니다.
    • 네 번째 단계는 새로운 솔루션이 수용된 것으로 확인되면 현재 솔루션을 새로운 솔루션으로 교체하는 것으로, 이는 새로운 솔루션의 생성에 해당하는 현재 솔루션의 변환 부분을 구현하고 동시에 목적 함수. 이 시점에서 현재 솔루션은 한 번의 반복을 달성했습니다. 이를 바탕으로 다음 실험을 시작할 수 있습니다. 그리고 새로운 솔루션이 폐기된 것으로 판단되면 원래의 현재 솔루션을 기반으로 다음 라운드의 실험을 계속합니다.

　　모의 어닐링 알고리즘은 초기값과 아무런 관련이 없으며, 알고리즘으로 얻은 솔루션은 초기 솔루션 상태 S(알고리즘 반복의 시작점)와 아무 관련이 없습니다. 이론상 전역최적해를 위한 전역최적화 알고리즘으로 수렴함을 증명하였으며, 시뮬레이션 어닐링 알고리즘은 병렬성을 가진다.

7. 모의 어닐링의 기본 요소

상태 공간 및 상태 생성 함수

　　1) 검색 공간은 상태 공간이라고도 하며 인코딩된 실행 가능한 솔루션 집합으로 구성됩니다.
　　2) 상태 생성 기능(이웃 기능)은 생성된 후보 솔루션이 전체 솔루션 공간에 분산되도록 노력해야 합니다. 일반적으로 후보 솔루션을 생성하는 방법과 후보 솔루션의 확률 분포의 두 부분으로 구성됩니다.
　　3) 후보 솔루션은 일반적으로 특정 확률 밀도 함수에 따라 솔루션 공간을 무작위로 샘플링하여 얻습니다.
　　4) 확률분포는 균일분포, 정규분포, 지수분포 등이 될 수 있다. 

상태 전이 확률

　　1) 상태 전이 확률은 한 상태에서 다른 상태로 전이할 확률을 말한다.
　　2) 일반적인 이해는 새로운 솔루션을 현재 솔루션으로 받아들일 확률입니다.
　　3) 현재 온도 매개변수 T와 관련이 있으며 온도가 떨어질수록 감소합니다.
　　4) 메트로폴리스 기준이 일반적으로 채택된다.

내부 루프 종료 기준: 메트로폴리스 샘플링 안정성 기준이라고도 하며 각 온도에서 생성된 후보 솔루션의 수를 결정하는 데 사용됩니다. 일반적으로 사용되는 샘플링 안정성 기준은 다음과 같습니다.

　　1) 목적함수의 평균이 안정적인지 확인한다.
　　2) 연속된 여러 단계에 대한 목표 값의 변화가 작습니다.
　　3) 일정 수의 단계로 샘플링.

외부 루프 종료 기준: 일반적으로 사용되는 알고리즘 종료 기준은 다음과 같습니다.

　　1) 종료 온도의 임계값을 설정합니다.
　　2) 외부 루프의 반복 횟수를 설정합니다.
　　3) 알고리즘에 의해 검색된 최적 값은 연속된 여러 단계 동안 변경되지 않은 상태로 유지됩니다.
　　4) 시스템 엔트로피가 안정적인지 확인하십시오.

8. 파라미터 설명

　　어닐링 공정은 일련의 초기 매개변수, 즉 냉각 일정에 의해 제어되며, 그 핵심은 알고리즘이 제한된 시간 내에 최적의 솔루션에 접근할 수 있도록 시스템이 평형에 도달하도록 하는 것입니다. 냉각 일정에는 다음이 포함됩니다. 

　　(1) 제어 파라미터의 초기값 T0 : 냉각이 시작되는 온도.

　　(2) 제어 매개변수 T의 감쇠 함수: 컴퓨터는 이산 데이터만 처리할 수 있기 때문에 연속 냉각 프로세스는 냉각 프로세스 중에 일련의 온도 지점으로 이산화되며 감쇠 함수는 이 일련의 데이터를 계산하기 위한 표현입니다. 온도.

　　(3) 제어 파라미터 T (정지 기준)의 최종 값 Tf  .

　　(4) Markov chain의 길이 Lk : 임의의 온도 T  에서의 반복 횟수.

9. 파라미터 설정

　시뮬레이션 어닐링 알고리즘은 널리 사용되며 NP-완전 문제를 해결할 수 있지만 매개 변수를 제어하기 어렵습니다.주요 문제는 다음과 같습니다.

(1) 제어 파라미터 T의 초기값 T0

　　전역 최적화 문제를 해결하기 위한 임의 탐색 알고리즘은 일반적으로 대규모 러프 탐색과 로컬 미세 탐색을 결합한 탐색 전략을 채택합니다.

　　초기 대규모 탐색 단계에서 전역 최적해가 위치하는 영역을 찾아야만 탐색 범위가 점차 좁아지고 최종적으로 전역 최적해를 얻을 수 있다.

　　모의 어닐링 알고리즘은 매개변수 T의 초기값 T0와 가스 붕괴 과정을 제어하여 대규모 러프 서치와 로컬 파인 서치를 실현합니다.

　　문제 규모가 크면 T0이 너무 작으면 알고리즘이 로컬 트랩에서 벗어나 전역 최적값에 도달하지 못하는 경우가 많습니다. 일반적으로 100°C.

　  [초기 온도가 높으면 전역 최적해를 찾을 가능성이 높지만 계산 시간이 많이 걸리고 그렇지 않으면 계산 시간을 절약할 수 있지만 전역 검색 성능에 영향을 미칠 수 있습니다. 실제 적용에서 초기 온도는 일반적으로 실험 결과에 따라 여러 번 조정해야 합니다. ]

(2) 제어 파라미터 T의 감쇠 기능

　　감쇠 함수는 여러 형태를 가질 수 있으며 일반적으로 사용되는 감쇠 함수는 다음과 같습니다.

　

　　이 중 k는 냉각 횟수, α는 상수로 0.5~0.99로 나타낼 수 있으며 그 값이 냉각 속도를 결정한다.

　  [큰 검색 공간을 확보하기 위해 a는 일반적으로 0.95, 0.9와 같이 1에 가까운 값을 취합니다.]

(3) 어닐링 속도: 마르코프 체인 길이

　　Markov 체인 길이의 선택 원칙은 다음과 같습니다. 제어 매개변수 T의 감쇠 함수가 선택되었다는 전제하에 Lk는 제어 매개변수 T의 각 값에서 준 균형을 달성할 수 있어야 합니다.

　　경험상 간단한 경우 Lk=100n으로 설정할 수 있으며 여기서 n은 문제 크기입니다.

　  [사이클 수의 증가는 필연적으로 계산 오버헤드의 증가로 이어지므로 실제 응용에서는 특정 문제의 특성과 특성에 따라 합리적인 어닐링 밸런스 조건을 설정해야 합니다. ]

(4) 제어 파라미터 T (정지 기준)의 최종 값 Tf  . 또는 여러 개의 연속적인 Mapkob 체인 솔루션이 변경되지 않습니다. 즉, 여러 개의 연속적인 솔루션이 변경되지 않습니다.

　　알고리즘 중지 기준: 메트로폴리스 기준의 수락 함수용

　　

 　　T가 상대적으로 큰 고온의 경우 지수의 분모가 상대적으로 크며 이는 음의 지수이므로 전체 수용함수가 1이 되는 경향이 있을 수 있음, 즉 새로운 해 xj는 다음과 같다. 현재 해 xi보다 나쁜 경우도 받아들일 수 있으므로 국소 최소점을 뛰어넘어 해 공간의 다른 영역을 찾기 위해 광역 탐색을 할 수 있고, 냉각이 진행됨에 따라 T가 a로 줄어들면 상대적으로 작은 값일수록 리시버 함수의 분모도 작고 전체도 작다 즉, 현재 해보다 못한 해를 받아들이기 어렵고, 현재 영역을 뛰어넘기가 쉽지 않다. 온도가 높으면 최적의 솔루션 영역을 찾기 위해 충분한 광역 탐색을 수행하고, 저온에서는 충분한 로컬 탐색을 수행하여 최종적으로 전역 최적해를 찾을 수 있습니다. 따라서 일반 종단 온도 Tj는 0.01~5와 같이 충분히 작은 양수로 설정해야 합니다.

　　【일반적으로 종료 온도 Tj는 0.01~5와 같이 충분히 작은 양수로 설정해야 합니다. ]

10. 장점, 단점 및 개선점

　　모의 어닐링 알고리즘(simulated annealing, SA)은 넓은 검색 공간에서 문제의 최적 솔루션을 찾는 데 사용되는 일반적인 확률 알고리즘입니다.

　　장점: NP-hard 문제를 효과적으로 해결할 수 있고 지역 최적 솔루션으로 떨어지는 것을 피할 수 있습니다.

　　　　    계산 프로세스는 간단하고 일반적이며 견고하며 병렬 처리에 적합하며 복잡한 비선형 최적화 문제를 해결하는 데 사용할 수 있습니다.

　　　　　모의 어닐링 알고리즘은 초기 값과 아무 관련이 없으며 알고리즘에 의해 얻은 솔루션은 초기 솔루션 상태 S(알고리즘 반복의 시작점)와 아무 관련이 없습니다.

　　　　    시뮬레이션된 어닐링 알고리즘은 점근적 수렴을 가지며 이론적으로 전역 최적해에 확률적으로 수렴하는 전역 최적화 알고리즘임이 입증되었습니다.

　　　　　 모의 어닐링 알고리즘에는 병렬성이 있습니다.

　　단점: 느린 수렴 속도, 긴 실행 시간, 알고리즘 성능은 초기 값과 관련되고 매개 변수에 민감합니다.

　　　　　더 높은 초기 온도, 더 느린 냉각 속도, 더 낮은 종료 온도 및 각 온도에서 충분한 수의 샘플에 대한 요구 사항으로 인해 최적화 프로세스가 더 길어집니다.

　　　　(1) 냉각 프로세스가 충분히 느리면 더 많은 솔루션의 성능이 더 좋아지지만 수렴 속도가 너무 느립니다.

 　　　　 (2) 냉각 과정이 너무 빠르면 전역 최적 솔루션을 얻지 못할 수 있습니다.

　　적용 가능한 환경: 조합 최적화 문제.

　　개선하다:

　　　　(1) 검색 과정의 필요에 따라 국가의 전체 공간 분산 또는 지역적 지역성을 보여줄 수 있도록 적절한 상태 생성 함수를 설계합니다.

　　　　(2) 효율적인 어닐링 전략을 설계합니다.

　　　　(3) 우회적인 상태 검색을 피하십시오.

　　　　(4) 병렬 검색 구조를 채택합니다.

　　　　(5) 극소값에 빠지지 않도록 온도 제어 방법을 개선한다.

　　　　(6) 적절한 초기 상태를 선택합니다.

　　　　(7) 적절한 알고리즘 종료 기준을 설계합니다.

　　　　-------------------------------------------------- -------------------------------------------------- ---------------------------

　　　　(8) 가열 또는 재가열 과정을 늘립니다. 알고리즘 과정에서 적절한 시점에 온도를 적절하게 높여 각 상태의 수용 확률을 활성화하여 탐색 과정에서 현재 상태를 조정하고 알고리즘이 국소 최소 솔루션에서 정체되는 것을 방지합니다.

　　　　(9) 메모리 기능을 높입니다. 검색 과정에서 확률 수락 링크의 구현으로 인해 현재 만나는 최적의 솔루션을 잃지 않기 위해 스토리지 링크를 추가하여 이전의 일부 양호한 상태를 기억할 수 있습니다.

　　　　(10) 보완 검색 프로세스를 늘립니다. 즉, 어닐링 공정이 종료된 후 탐색된 최적해를 초기 상태로 하여 시뮬레이션 어닐링 또는 국소성 탐색을 다시 수행한다.

　　　　(11) 각각의 현재 상태에 대해 표준 SA의 단일 비교 방법 대신 확률적으로 해당 영역에서 최적의 상태를 받아들이기 위해 다중 검색 전략이 사용됩니다.

　　　　(12) 유전자 알고리즘, 혼돈 검색 등과 같은 다른 검색 메커니즘과 결합된 알고리즘

　　　　(13) 상기 방법의 포괄적인 적용.

11. 요약

　   언덕 오르기 알고리즘으로 표현되는 지역 검색 알고리즘은 일부 조합 최적화 문제에만 적합하며 솔루션의 품질은 그다지 이상적이지 않습니다. 따라서 이러한 단점을 극복하기 위해 사람들은 자연스러운 물리적 프로세스를 통해 솔루션을 찾습니다.시뮬레이션 어닐링 알고리즘은 고체의 어닐링 프로세스 시뮬레이션에서 파생됩니다.Metropolis 수용 기준을 채택하고 냉각 테이블이라는 일련의 매개 변수를 사용하여 알고리즘 프로세스를 제어하여 다항식 시간에 근사 최적 솔루션을 찾을 수 있습니다.

　　모의 어닐링 알고리즘(simulated annealing, SA)은 넓은 검색 공간에서 문제의 최적 솔루션을 찾는 데 사용되는 일반적인 확률 알고리즘입니다. NP-hard 문제를 효과적으로 해결하고 로컬 최적 솔루션으로 떨어지는 것을 피할 수 있기 때문에 생산 일정, 제어 엔지니어링, 기계 학습, 신경망, 이미지 처리 및 기타 분야에서 널리 사용되었습니다.