Pytorchノート-画像データを保存する方法、resnet50の完全に接続されたレイヤーのバイアスバイアスを増やすかどうか、およびパラメーターを調整する方法

BGR vs RGB、NCHW vs NHWC

Opencvでは、imread、imwrite、imshowはすべてBGRを使用してデータを保存し、ストレージタイプはHWC
のPIL(python)ライブラリに保存され、BGRはデータの保存に使用され、HWCは
PILをPILとして使用してpytorchにデータを保存するために使用されます。 imageはデフォルトで保存されますが、BGRをRGBに変換します。保存方法は
CHW pytrochのtorch.utils.data.DataLoaderです。読み取られるデータはNCHW保存であり、RGB方法が使用されます。

resnet50の最後のレイヤーにバイアスを追加するかどうか

pytorchライブラリにresnet50モデルを出力すると、最後のレイヤーの完全に接続されたレイヤーにバイアスバイアスがあることがわかりました。
先生が説明すると、完全に接続された層とSoftmaxでは、式は次のようになり、最終的にすべてのバイアスが縮小されていることがわかります。したがって、最後の層にバイアスバイアスを追加しても、計算には影響しません。最終結果の。
ここに画像の説明を挿入

畳み込みネットワークモデルのパラメーター調整のアイデア

ディープラーニングの開発以来、実際にはパラメーター調整の明確なアイデアはありません。そうでなければ、ディープラーニングモデルのパラメーターを調整するのに苦労している大学院生はそれほど多くありません。パラメーターの調整は長くて苦痛なプロセスです。一般的な考え方とその方向性です。
一般的に言えば、2つの原則があります

  • レイヤーが深くなるほど、画像間の共通の特徴が強調され、一般化能力が強くなります。
  • 浅いレイヤーは特定のタスクに固有であり、通常、異なるタスク間の異なる機能に対しては浅くなります。

ここに画像の説明を挿入
転移学習を他の場所に適用する場合、モデルをトレーニングするための一般的なアイデアは次のとおりです。
ここに画像の説明を挿入

おすすめ

転載: blog.csdn.net/scarecrow_sun/article/details/119724892