[64]可視化は畳み込みニューラルネットワークを理解しました

学び1.
どのような学校で終わりで畳み込みネットワークの深さを?

Alexnetある例を見ては、畳み込みニューラルネットワークを訓練している場合、軽量なネットワークは、
隠されたユニットの異なる層の間の結果を見たいです

トラバーストレーニングセットと仮定して、隠されたユニットの第1層から始めて、そうすることができ
、その後、活性化は写真や画像ブロックの数を最大にするユニット見つける
他の言葉では、ニューラルネットワークのトレーニングセット経由
して、その1枚の画像の最大を把握わずかに特異的な細胞を活性化させます

マシューツェナーとRob Fergusのから、本明細書のすべての実施例に使用される紙
と題する(Zeiler MD、ファーガスR.可視化と理解畳み込みネットワーク[J] 2013 8689:.. 818から833)、「 可視化は畳み込みニューラルネットワークを理解しました「
ここでは、可視化するために、ニューラルネットワークに隠されたコンテンツ単位を計算する簡単な方法を使用することになり
、彼らは新聞を読めば、あなたは彼らがニューラルネットワークコンピューティング畳み込みを視覚化するために、より複雑な方法をいくつか作ってきたでしょう

2の第1層
隠されたユニットの第1層内のノートでは、唯一の畳み込み神経回路の小さな部分を見ることができ
ますが、起動部を起動させるものを描きたい場合は、画像ブロックの唯一の小片が重要である
、これは特定のユニット缶であるため、すべてを見ます

隠されたユニットを選択し、ユニットを最大化するために9画像を発見したが活性化され、あなたはこの9の画像ブロックを見つけることができます(1番)
隠された単位を表示する画像ショー浅いエリアのようです、このようなエッジを見つけますか、ライン(2号)
9つの最大化ピクチャブロックユニットを活性化することである隠されたアイテムをアクティブ

その後、他のステップ繰り返し、隠れユニットの第一の層から選択することができる
第二の画像ブロック9から明らかな別の隠れユニットである、(1号)からなる
入力領域にこの隠されたユニットは、そのような探して意見また、承認済みドメインと呼ば線(第2号)、

他の隠れユニットはまた、他の隠れユニットを見つける、処理され、この絵のように活性化される傾向にある
。この画像は、左垂直の明るいエッジに興味グリーンブロック(1号)を有するように思われる
。この隠されたユニットであるオレンジ、する傾向があります面白い画像ブロック(数2)は
赤と緑の混合褐色または褐色-オレンジ、それでもニューロンを活性化することができます

そしてように、9個の異なる神経細胞の代表である、最大限に活性化される異なる画像ブロックのそれぞれ
、第一の層は通常隠されている単位を理解することができるが、このような色やエッジなどの単純な機能を見つけます影

第二層3に
隠されたユニットの深い部分では、大きな画像の一部が表示されます
極端な場合には、あなたは、各画素が深く、ニューラルネットワークの出力に影響すると仮定することができます
後方に隠された単位を見ることができます大きな画像ブロックは
画像ブロックこのページでは同じ大きさを描きます。

しかし、プロセスが繰り返された場合
の第一層の前に得られた本(図1レイヤ画像)
レイヤ2(画像2のレイヤに示す)視覚活性化隠れユニットの最大程度である9

この可視化を説明
である(その1)隠れユニット最大活性化ブロック9ピクチャ反応
別のグループである(その2)、隠れユニットがそれほど活性化された画像ブロック9

(絵として2層に示されている)、この可視化は、隠れユニット9の第2層を示す
各9つの画像ブロックを有するように、隠れユニットの活性化以上の大きな出力

より深いレベルでは、プロセスを繰り返すことができます

这里很难看清楚,这些微小的浅层图片块,放大一些,这是第一层
这是第一个被高度激活的单元
能在输入图片的区域看到,大概是这个角度的边缘(编号1)放大第二层的可视化图像

第二层似乎检测到更复杂的形状和模式,比如说:
这个隐藏单元(编号1),它会找到有很多垂线的垂直图案
这个隐藏单元(编号2)似乎在左侧有圆形图案时会被高度激活
这个隐藏单元(编号3)是很细的垂线
以此类推,第二层检测的特征变得更加复杂

4. 第三层

看看第三层将其放大,放得更大一点,看得更清楚一点,这些东西激活了第三层
这个隐藏单元(编号1)似乎对图像左下角的圆形很敏感,所以检测到很多车
这个隐藏单元(编号2)似乎开始检测到人类
这个隐藏单元(编号3)似乎检测特定的图案,蜂窝形状或者方形,类似这样规律的图案
有些很难看出来,需要手动弄明白检测到什么,但是第三层明显,检测到更复杂的模式

5. 第四层

这是第四层,检测到的模式和特征更加复杂
这个隐藏单元(编号1)学习成了一个狗的检测器
但是这些狗看起来都很类似,并不知道这些狗的种类,但是知道这些都是狗,他们看起来也类似
这个隐藏单元(编号2)隐藏单元它好像检测水及其水上的动物
这个隐藏单元(编号3)似乎检测到鸟的脚等等

6. 第五层

第五层检测到更加复杂的事物
这个隐藏单元(编号1)也有一个神经元,似乎是一个狗检测器,但是可以检测到的狗似乎更加多样性
这个隐藏单元(编号2)可以检测到键盘,或者是键盘质地的物体,可能是有很多点的物体
这个隐藏单元(编号3)可能检测到文本,但是很难确定
这个这个隐藏单元(编号4)检测到花

现在已经有了一些进展,从检测简单的事物,比如说:
第一层的边缘,第二层的质地,到深层的复杂物体

おすすめ

転載: www.cnblogs.com/lau1997/p/12389130.html