1、ドロップアウト
トレーニング段階での過剰適合を防ぐために、次の図に示すように、ニューロンはすぐに削除されます (完全にランダムにスローされます)。
2、ドロップコネクト
次の図に示すように、ニューロンにドロップアウトを適用する接続はありませんが、これらのニューロンを接続する重みとバイアスに接続されます (接続でのみスローされ、ニューロンはスローされません)。
3、空間的ドロップアウト
(チャンネルを押すとすぐに投げます)
4、切り抜き
固定サイズの正方形をカバーする中心点として画像内の点をランダムに選択します (空間ブロックに従って入力レイヤーにランダムに配置します)。
5. DropBlock (ユニットの周囲のブロックを破棄)
(すべての特徴マップは空間ブロックに従ってランダムにスローされます)、つまり、特徴マップ内の隣接する領域がまとめられて削除されます。以下に示すように:
6、参考
「YOLOV4&5 原則とソース コード分析 II: DropBlock とラベル スムージング メソッド」 - JackRuiYu - 博客园
12 の主要なドロップアウト手法: DNN、CNN、RNN での数学的および視覚的解釈に適用する方法 - プログラマーが求めた