4 BPニューラルネットワーク

まず、BPニューラルネットワークとは何か

BPニューラルネットワークを使用することに基づくBP誤差逆伝播アルゴリズムがある多層ニューラルネットワークフィードフォワード。

第二に、BPニューラルネットワークの起源

1980人工ニューラルネットワークを意識した開発マシン(多層パーセプトロン、MLP)の歴史の中でネットワークの人工ニューラルネットワークが重要な役割を果たしていたが、また、真の人工ニューラルネットワークを使用することができます考えられていますモデルは、人々が人工ニューラルネットワークのブームをオフに設定していたことが表示されます。第1ニューラルネットワーク、明確かつ簡単な構造を有するモデル、計算の少量の利点として、単一の認識ネットワーク(MPモデル)。しかし、研究の深化と、それはそれの欠如があることが発見された、例えば、まだのみ線形分離を解決解決することができ、アクション機能は、バルブ機能および他のより複雑な非線形関数せずに単位を計算しても、非線形問題を扱うことができません問題。そこで我々は、その適用を制限する、いくつかの基本的な機能を実現することはできません。ネットワークの分類および認識能力を高め、非線形問題を解決する唯一の方法は、入力と出力層の間に中間層を追加すること、すなわち、多層フィードフォワードネットワークを使用することです。ネットワークパーセプトロン多層フィードフォワードを構成する前に。中期、デビッドRunelhart。独立して、エラー逆伝搬アルゴリズム(誤差逆伝播トレーニング)を発見したジェフリー・ヒントンとロナルドW-llians、DavidParkerは、BPに、システムが層を隠された接続重みを学習多層ニューラルネットワークの問題を解決し、かつ数学的に言及しました完全な導出。マルチレイヤは、人々のネットワークBPネットワークと呼ばれる、このようなフィードフォワード誤り訂正アルゴリズムを使用します。

上記は抜粋Baiduの百科事典ですが、私はそれは、我々は隠された層を呼んで、入力と出力の間の層を追加する必要があり、限られた単層パーセプトロンの問題を解決することができまとめ、それの後にそれ以上の層を追加します数学アルゴリズムを考案して、エラーを使用していない計算方法は、多層バックプロパゲーションアルゴリズムに実装する前に、我々はニューラルネットワークBPと呼ばれているBPアルゴリズム、ニューラルネットワークを用いたアルゴリズムを呼び出します。

三、BPニューラルネットワークアーキテクチャ

BPニューラルネットワークアーキテクチャとより多くの層を追加し、入力と出力との間に、あるニューラルネットワークパーセプトロン線形に比べ。[チェーンが失敗したイメージのダンプ、ソースステーションは、セキュリティチェーン機構を有していてもよいです
ここに画像を挿入説明

示されるように、隠された層は、実際には層の数は可変であり、各層のノードの数、すなわち、ネットワークの意志異なる層数の影響の精度変数です。

四、BPニューラルネットワーク更新機能が有効になり

BPアルゴリズム演算誤差が勾配降下に基づいて、我々は勾配誘導体であることを知って、BPアルゴリズム一方、複数の層で誘導体に、ニューラルネットワーク線形であれば前関数yの活性化= X、それは最初の誘導体であるが見つからその後、1、およびシーク時間0であり、明らかに私たちのニーズを満たすため、BPニューラルネットワークと他の活性化機能を使用することはできません。

シグモイド関数:

ここに画像を挿入説明

双曲線正接関数:

ここに画像を挿入説明
これらの3つは、一般的に当然のことながら、他の一般的に使用される機能があり、BPニューラルネットワークの活性化関数で使用されます。

四、BPニューラルネットワークの利点と欠点

4.1利点:

ネットワーク理論の面でBPニューラルネットワークは、よりパフォーマンスの面で成熟しています。その利点は、強い非線形マッピング機能と柔軟なネットワーク構造です。ネットワークの中間層は、神経素子の層の数は任意の状況に応じて設定することができ、構造の性能の差も異なるからです。

4.2短所:

①遅い学習速度、でも簡単な質問には、一般的に収束する学習の数百あるいは数千を必要とします。

②ローカルミニマムに陥りやすいです。

③ネットワーク層は、ニューロンの数は、対応する理論を選択しません。

④限られたネットワーク汎化能力。

第五に、の原則

各信号5.1の間の数学的関係

ここに画像を挿入説明

彼らの思考を調整する5.2調整と誤差の重み

ここに画像を挿入説明
ここに画像を挿入説明

5.3 BPアルゴリズム推定されます

ここに画像を挿入説明
ここに画像を挿入説明

上記のアルゴリズムの導出は一つだけ隠された層であり、私たちは、最後の2つの式ができることを覚えて、綿密な調査をしたくありません。

公開された42元の記事 ウォンの賞賛3 ビュー2066

おすすめ

転載: blog.csdn.net/stable_zl/article/details/104743289