统计学习方法详解之第十三章 无监督学习概论

0. 写在前面的话

  2021年是自监督学习，尤其是对比学习爆发的一年。不管是CV(simCLR、MoCo)还是NLP(simCSE、simBERT)都涌现出了很多优秀的工作，那么涉及到一个小问题，自监督学习是有监督学习还是无监督学习呢？

  首先，自监督学习的英文为self-supervised learning。自监督学习是包含了监督信号的，但是它的监督信号来自于数据本身，而不是人工标注。如果从这个角度来说，自监督学习是属于无监督学习，因为它的标签并不是人工标注得到的。

  前面的内容仅仅是抛砖引玉，本文的重点依然是传统意义上的无监督学习，后续将通过若干篇博客来系统讲解对比学习，