一緒に書く習慣をつけましょう！「ナゲッツデイリーニュープラン・4月アップデートチャレンジ」に参加して3日目です。クリックしてイベントの詳細をご覧ください。
序文
ここでは、実験の比較可能性を確保するために、制御変数法を使用して、画像分類に対する3×3、5×5、および9×9の畳み込みカーネルの影響を比較します。実験を簡略化するために、マスターとしてのLeNet-5ネットワーク構造このように、誰もがそれに精通しており、データセットも同じです。
LeNet-5ネットワーク構造の詳細な紹介は、インターネットおよび次のサイトで見つけることができます：juejin.cn/post/707478…
1.比較前
明示的な不変条件は次のとおりです
。1.1データセットは変更されません（合計クラスは10、手書きの数字データセット、単一クラスの数は500）
1.2トレーニングセットと検証セットの分割は変更されません（training：validation = 7：3）
1.3ネットワーク構造は、畳み込みカーネルを除いてまったく同じです
。1.4同じトレーニングラウンド数
1.5同じ損失関数
1.6同じ学習率
1.7検証頻度
1.8同じハードウェア機器
options = trainingOptions('sgdm',...
'maxEpochs', 100, ...
'ValidationData', imdsValidation, ...
'ValidationFrequency',5,...
'Verbose',false,...
'Plots','training-progress');% 显示训练进度
复制代码2. 5*5畳み込みカーネルの実験結果
LeNet-5の畳み込みカーネルのサイズは5x5であるため、最初に元のLeNet-5実験で実験し
ます。次の図から、5*5畳み込みカーネルでのデータセットに関する次の情報を取得できます。
2.1検証精度：85.60％
2.2トレーニング時間：3分-19秒
2.3損失曲線は収束し、正常です（過剰適合および過適合なし）
3.3x3畳み込みカーネルの実験結果
たたみ込みカーネルのサイズのみを変更し、5×5たたみ込みカーネルのサイズを3×3たたみ込みカーネルに変更します
。下の図から、3×3たたみ込みカーネルを取得できます。モデルには次の情報があります。データセット上
3.1検証は正確です程度：69.20％
3.2トレーニング期間：3分-09秒
3.3損失曲線の畳み込み（過剰適合および過適合なし）
Four.9x9畳み込みカーネルの実験結果
たたみ込みカーネルのサイズを変更するだけで、5x5のたたみ込みカーネルのサイズを9x9のたたみ込みカーネルに変更します。
次の図から、9x9のたたみ込みカーネルを取得できます。モデルにはデータセットに関する次の情報
4.1検証は正確です程度：90.80％
4.2トレーニング期間：3分-13秒
4.3損失曲線の畳み込み（過剰適合および過適合なし）
5.包括的な分析
学習率0.1（lr = 0.1）の場合、2700回の繰り返しの100回の繰り返し、検証レビューの5回の繰り返し、損失関数sgdm、合計データサイズ（500 x 10）、training：validation = 7：3：
検証精度
:( 9 x 9）>（5 x 5）>（3 x 3）
トレーニング期間：
（5 x 5）>（9 x 9）>（3 x 3）
3つの畳み込みカーネルは十分にトレーニングされていませんが、将軍を短いもので描きたい、画像によると、9 * 9の畳み込みカーネルサイズを選択します（上記と同じ要素を制限します）