【機械学習】教師あり、教師なし、自己教師あり、半教師あり、弱教師ありの違い

1. 教師あり: ラベル付きデータを使用したトレーニング。
2. 教師なし: ラベルのないデータを使用したトレーニング、
   K-means など。
3. 半教師あり: データ分布に関するモデルの仮定を使用して、ラベルのない例にラベルを付ける学習器を構築します。通常、これは 2 段階のトレーニングであり、最初に (小規模な) ラベル付きデータを使用して教師モデルをトレーニングし、次にこのモデルを使用して (大規模な) ラベルなしデータの疑似ラベルを予測し、学生モデルのトレーニング データとして使用します。
   蒸留。
4. 自己監視: ラベルのないデータでトレーニングし、モデルにいくつかの方法でデータの内部表現を学習させてから、mlp を分類子として追加するなどのダウンストリーム タスクに接続します。ただし、ダウンストリーム タスクを受け取った後も、特定のラベル付きデータを微調整する必要がありますが、前のレイヤーを完全に修正して、後続のネットワークのパラメーターのみを微調整することを選択できる場合があります。
   自己教師データ監視はデータ自体から来ます. 実際には, それはそれ自体でいくつかの簡単なラベルを生成してから学習することです. 理論上, ネットワークは画像のいくつかの特徴情報を学習し, 次にそれに基づいて他のタスクを追加することができます.このモデルの。
   画像を領域に分割してスクランブルし、モデルに元の画像に復元させます。ジグソーパズルによく似ています。
   画像の一部の領域をくり抜き、出力が入力画像を可能な限り復元できるように、モデルに予測を行わせます。
   画像を特定の角度だけ回転させ、モデルに回転角度を予測させます。または、画像を 0、90、180、および 270 度の 4 つのカテゴリに回転し、回転したカテゴリをモデルに予測させます。
5. 弱い教師: ノイズを含むラベル付きデータを使用したトレーニング。
   ラベルの強度とは、ラベルに含まれる情報の量を指します. たとえば、セグメンテーション ラベルと比較して、分類ラベルは弱いラベルです. 写真を知っていて、その写真に豚がいると伝えた場合、次に、豚はどこにあるのか、豚と背景の境界はどこにあるのかを調べる必要があります。ラベルがわかっている場合、これは弱い教師あり学習の問題で、強いラベルを学習します。