Espero que me corrijan por cualquier error de escritura, error tipográfico, error conceptual, etc.
Antes de leer este artículo, se recomienda estudiar:
[Aprendizaje automático] Estimación del contraste de ruido (NCE)
[Visión por computadora] Explicación de MoCo
Aprendizaje de funciones no supervisado mediante discriminación de instancias no paramétricas
La contribución más importante de este artículo es la introducción de la tarea de proxy de discriminación de instancias (tarea de pretexto) comúnmente utilizada en el aprendizaje contrastivo. La discriminación de instancias se refiere a tratar cada dato de entrenamiento como una categoría diferente de otros datos, de modo que el modelo tenga la capacidad de identificar las características visuales de la imagen, al tiempo que se garantiza que el vector de características generado por el modelo satisfaga el requisito de que se muestren imágenes visualmente similares. más cercanas y visualmente diferentes, imágenes similares están más separadas. Para evitar el problema de cálculos excesivos causado por el tratamiento de cada dato como una categoría separada, la discriminación de instancias utiliza la estimación contrastiva de ruido (NCE) como función de pérdida para convertir el problema de clasificación múltiple en un problema de clasificación binaria.
Pensamiento
Figura 1