「線形プローブ精度」は、自己教師あり学習 (Self-Supervised Learning、SSL) モデルのパフォーマンスを評価する方法です。このアプローチでは、単純な線形分類器 (通常は線形層または完全結合層) を使用して、モデルによって学習された特徴の品質をテストします。具体的には、次の手順が含まれます。
-
特徴抽出: まず、自己教師あり学習モデルを使用して、ラベルのないデータから特徴が抽出されます。この段階では、モデルはラベル情報を使用しません。
-
線形分類器のトレーニング: 次に、抽出された特徴に対して単純な線形分類器をトレーニングします。この分類子のタスクは、これらの特徴に基づいてデータを分類することです。このステップではラベル情報が使用されますが、モデル全体ではなく、この線形レイヤーのみで使用されます。
-
精度の評価: 最後に、ラベル付きテスト セットに対する線形分類器のパフォーマンス (通常は精度) を評価します。この精度を「リニアプロービング精度」と呼びます。
線形プローブ精度の鍵は、モデルによって学習された特徴の品質を評価するためのシンプルかつ直接的な方法を提供することです。自己教師あり学習モデルが有用で豊富な特徴表現を学習できれば、単純な線形分類器でもこれらの特徴に対して優れた分類パフォーマンスを達成できます。したがって、線形プローブ精度は、自己教師あり学習モデルの有効性を測定するための重要な指標となります。