SIGAI深い学習ニューラルネットワークの畳み込みセブン1

ネットワークの完全に接続された層を訓練し、バックプロパゲーションアルゴリズム、確率的勾配降下、AdaGradアルゴリズム、RMSPropアルゴリズム、AdaDeltaアルゴリズム、アダム・アルゴリズム、転移学習と細かいニューラルネットワークの畳み込み核となるアイデア、畳み込み層、層のプールを、教えますチューンのように。

概要:

畳み込みニューラルネットワークについて

視覚的なニューラルネットワークの核となるアイデア

畳み込みニューラルネットワークの核となるアイデア

畳み込み演算

コンボリューション層原理

マルチチャンネルの畳み込み

プーリング層の原則

完全接続層

コンボリューションのネットワーク構造

はじめに学習アルゴリズム

コンボリューション層のバックプロパゲーション

プールされた層のバックプロパゲーション

完全に接続された層のバックプロパゲーション

完全な逆伝搬アルゴリズム

確率的勾配降下法

初期化パラメータ値

セットの学習率

改善された勾配降下法

転移学習と微調整

このエピソードの概要

畳み込みニューラルネットワークについて:

種々の深さ(1998設計LetNet5ネットワークで)提案LeCunによって最も広く使用されているニューラルネットワークであり、正常に1989年に(例えば、ジップコード識別など)手書き文字画像を認識するために適用しました。

その後非常に長い時間では、畳み込みネットワークは2012年までに、広く注目を集め、大規模なアプリケーションされていない、より深いAlexNetネットワークは、画像分類のタスクで成功するために存在し、その後、ロール(例えば顔検出、物体認識など)多くの問題は、現在のパフォーマンスを最大限行った上で統合されたニューラルネットワークの急速な発展は、広く、マシンビジョンで使用されています。1990年代には、1995年から2012年まで、そのようなサンプルが多数出現して、ニューラルネットワークのコンボリューション効果よりも優れたさまざまな問題を検出し、分類するなどの問題、行うにはSVM、アダブーストを持つすべての、多くの内部マシン・ビジョンアルゴリズム自体を改善し、GPUコンピューティング技術は、問題の良くなって、より良い結果の多くを解決するために、より高と高精度畳み込みニューラルネットワークにつながる、出てくると、それが問題の真の解決策となりました。

前記畳み込みにより各スケール画像、プール層の自動学習。

それは、動物の視覚的なニューラルネットワークシステムから借用バイオミメティックの方法、です。

視覚神経系は動作します:

画像内の人は最初の色と明るさと理解、及び前記エッジは最終的に、より複雑な構造及びテクスチャ情報、形状、面積、及び続い断片詳細、コーナー点、直線であることが、認知層状であります図中のフリーフォームの全体のコンセプト。

視覚視覚神経メカニズム研究に先立って、視覚皮質が層画像理解の階層構造に対応した積層構造を有していて実証しました。

眼は、脳の視覚野は、視覚信号部分を処理する責任があり、網膜は、脳の視覚皮質(視覚皮質)へ光信号を電気信号に変換し、網膜上に被写体像が表示されます。

畳み込みニューラルネットワークコアアイデア:

畳み込みニューラルネットワークは、視覚神経系メカニズムの単純な模倣として見ることができます。

畳み込み層、プールされた層、完全接続層、前記畳み込み、複数のプールされた層を抽出し、各スケール画像。

各層はコンボリューションカーネルの畳み込み、複数の出力データを得るために、画像全体をスキャンし、上から下へ、右へ、左と畳み込みカーネルは、図の特徴(特徴マップ)の中で参照されます。

畳み込み層バック層受容フィールドは増加するため、小さな受容野、すなわち、入力画像のわずかな範囲に対応する出力画像の各画素と撮像画像の畳み込み局所、細部の前にネットワーク層、画像に、より複雑で抽象的な情報をキャプチャします。

層の畳み込み演算複数後、それは抽象様々なスケールで得られた最終的な画像を示しています。

畳み込み演算:

デジタル画像処理において、畳み込みが一般的操作です。

ように画像ノイズ除去、強調、エッジ検出とのために使用することができ、それはまた、特徴抽出画像のために使用することができます。

上から下へのマトリックスによって、画像の左から右方向にスライドさせ、それが乗算され、次いで与える加算カバー画像上の位置に対応するコンボリューションカーネル行列要素の各要素をコンボリューションカーネルと呼ばれます出力値。

 

おすすめ

転載: www.cnblogs.com/wisir/p/11737201.html