畳み込みニューラルネットワーク逆伝播とbpの違いは何ですか?
Google 人工知能ライティング プロジェクト: ニューラル ネットワーク疑似オリジナル
ニューラル ネットワークのバックプロパゲーション アルゴリズムを理解する方法
バックプロパゲーションは、人工ニューラル ネットワーク (ANN )のトレーニングに現在使用されている最も一般的に使用され、効果的なアルゴリズムです。
主なアイデアは次のとおりです: (1) トレーニング セット データを ANN の入力層に入力し、隠れ層を通過し、最終的に出力層に到達して結果を出力します。これが ANN の順伝播プロセスです。(2) ) ANNの出力結果は実際とは異なるため、結果に誤差があった場合、推定値と実際の値との誤差を計算し、出力層から隠れ層へ誤差を逆伝播させます。入力層に伝播するまで; (3) バックプロパゲーションの過程で、誤差に応じてさまざまなパラメータの値を調整し、収束するまで上記のプロセスを繰り返し続けます。
逆伝播アルゴリズムの考え方は比較的理解しやすいですが、具体的な式は段階的に導出する必要があるため、この記事では式の導出プロセスに焦点を当てます。1. 変数の定義 上図は3層の人工ニューラルネットワークであり、Layer1～Layer3がそれぞれ入力層、隠れ層、出力層となります。
図に示すように、最初にいくつかの変数を定義します: 番目の層の 番目のニューロンを 番目の層の 番目のニューロンに接続する重み、 番目の層の 番目のニューロンのバイアス、 番目の層の 番目のニューロンの入力th 層、つまり: は、第 3 層の th ニューロンの出力、つまり: を表します。ここで、 は活性化関数を表します。
ニューラル ネットワークのバックプロパゲーション アルゴリズムを理解する方法
バックプロパゲーションは、人工ニューラル ネットワーク (ANN) のトレーニングに現在使用されている最も一般的に使用され、効果的なアルゴリズムです。
主なアイデアは次のとおりです: (1) トレーニング セット データを ANN の入力層に入力し、隠れ層を通過し、最終的に出力層に到達して結果を出力します。これが ANN の順伝播プロセスです。(2) ) ANNの出力結果は実際とは異なるため、結果に誤差があった場合、推定値と実際の値との誤差を計算し、出力層から隠れ層へ誤差を逆伝播させます。 。