bp 신경망
BP(Back Propagation) 네트워크는 Rumelhart와 McCelland가 이끄는 과학자 팀이 1986년에 제안한 것으로 오류 역전파 알고리즘에 따라 훈련된 다층 피드포워드 네트워크로 가장 널리 사용되는 신경망 모델 중 하나입니다. 현재.
BP 네트워크는 이 매핑 관계를 설명하는 수학 방정식을 미리 공개하지 않고도 수많은 입출력 패턴 매핑 관계를 학습하고 저장할 수 있습니다. 학습 규칙은 최속하강법을 사용하고, 역전파를 통해 네트워크의 가중치와 임계값을 지속적으로 조정하여 네트워크의 제곱 오차의 합을 최소화하는 것입니다.
BP 신경망 모델의 토폴로지 구조에는 입력 계층, 숨겨진 계층 및 출력 계층이 포함됩니다. 인공 신경망은 인간의 사고를 시뮬레이션하는 두 번째 방법입니다.
이는 분산 저장 및 정보의 병렬 협업 처리를 특징으로 하는 비선형 동적 시스템입니다. 단일 뉴런의 구조는 극히 단순하고 기능도 제한되어 있지만, 다수의 뉴런으로 구성된 네트워크 시스템이 달성할 수 있는 행동은 매우 풍부하고 다채롭습니다.
인공 신경망이 작동하려면 먼저 특정 학습 기준으로 학습해야 합니다. 이제 인공신경망이 손으로 쓴 문자 "A"와 "B"를 인식하는 경우를 예로 들어보겠습니다. 네트워크에 "A"가 입력되면 "1"이 출력되어야 하고 입력이 ""이면 "1"이 출력되도록 규정되어 있습니다. B", 출력은 "0"입니다.
따라서 네트워크 학습의 원칙은 다음과 같습니다. 네트워크가 잘못된 판단을 내리면 네트워크 학습을 통해 다음에 동일한 실수를 저지를 가능성을 줄여야 합니다.
먼저 네트워크의 각 연결 가중치를 (0, 1) 간격으로 임의의 값을 할당하고 "A"에 해당하는 영상 패턴을 네트워크에 입력하고, 네트워크는 입력된 패턴에 가중치를 부여하고 합산한 후 이를 비교한다. 임계값을 지정한 다음 비선형 연산을 수행하여 네트워크의 출력을 얻습니다.
이 경우 네트워크 출력이 "1"과 "0"이 될 확률은 각각 50%로, 이는 완전히 무작위임을 의미합니다. 이때, 출력이 "1"(결과가 정확함)이면 네트워크가 "A" 모드 입력을 다시 만났을 때 여전히 올바른 판단을 내릴 수 있도록 연결 가중치가 증가합니다.
출력이 '0'(즉, 결과가 잘못된 경우)인 경우 종합 입력 가중치 값을 줄이는 방향으로 네트워크 연결 가중치를 조정하는데, 그 목적은 네트워크가 'A' 모드를 만났을 때의 오류를 줄이기 위함이다. 다음에 입력해도 오류가 발생할 가능성이 동일합니다.
이러한 조정을 통해 여러 개의 손으로 쓴 문자 "A"와 "B"가 차례로 네트워크에 입력되고 네트워크가 위의 학습 방법에 따라 여러 번 학습하면 네트워크의 판단 정확도가 크게 향상됩니다.
이는 네트워크가 이 두 가지 패턴을 성공적으로 학습했으며, 네트워크의 각 연결 가중치에 분산되어 이 두 가지 패턴을 기억했음을 보여줍니다. 네트워크가 이러한 패턴을 다시 만나면 빠르고 정확한 판단과 식별을 내릴 수 있습니다.
일반적으로 네트워크에 뉴런이 많을수록 더 많은 패턴을 기억하고 인식할 수 있습니다. 그림에 표시된 토폴로지를 갖는 단일 은닉층 피드포워드 신경망은 일반적으로 3계층 피드포워드 신경망 또는 3계층 퍼셉트론, 즉 입력 계층, 중간 계층(은닉 계층이라고도 함) 및 출력 계층이라고 합니다.
그 특징은 다음과 같습니다: 각 층의 뉴런은 인접한 층의 뉴런에만 완전히 연결되어 있고, 같은 층의 뉴런 사이에는 연결이 없으며, 각 층의 뉴런 사이에는 피드백 연결이 없으므로 다음과 같은 피드포워드 유형을 형성합니다. 계층적 구조신경망 시스템.
단일 계산 계층 피드포워드 신경망은 선형 분리 가능한 문제만 해결할 수 있으며, 비선형 문제를 해결할 수 있는 네트워크는 숨겨진 계층이 있는 다층 신경망이어야 합니다. 신경망의 연구 내용은 다학문간 기술 분야의 특성을 반영하여 상당히 광범위합니다.
주요 연구 작업은 다음 측면에 중점을 둡니다. (1) 생물학적 원형 연구. 생리학, 심리학, 해부학, 뇌과학, 병리학 및 기타 생물학의 측면에서 신경세포, 신경망, 신경계의 생물학적 원형 구조와 기능적 메커니즘을 연구합니다. (2) 이론적 모델을 확립한다.
생물학적 원형에 대한 연구를 바탕으로 뉴런과 신경망의 이론적 모델을 확립합니다. 여기에는 개념 모델, 지식 모델, 물리적 및 화학적 모델, 수학적 모델 등이 포함됩니다. (삼