对比学习（持续更新ing...）

诸神缄默不语-个人CSDN博文目录

最近更新时间：2023.5.6
最早更新时间：2023.4.20

本文将对对比学习相关内容进行介绍。

1. 对比学习

对比学习是表征学习，意在使相似样本表征相近，使不相似的更远。

MoCo背景介绍----对比学习

2. NLP对比学习

1. (2021 NeurIPS) SimCSE: Simple Contrastive Learning of Sentence Embeddings：无监督版以同一输入经Bert后的不同输出为相似样本（因dropout产生不同输出），有监督版用NLI数据集实现
   训练目标（看起来像softmax）：
   

3. 图对比学习

1. (2023 TKDD) Multi-View Graph Representation Learning Beyond Homophily
2. (2023 Information Sciences) Enhanced contrastive representation in network

4. 参考资料

1. 图对比学习的最新进展 - 知乎
2. SXKDZ/awesome-self-supervised-learning-for-graphs: A curated list for awesome self-supervised learning for graphs.
3. PyGCL/PyGCL: PyGCL: A PyTorch Library for Graph Contrastive Learning