本文假定读者了解word2vec、emlo、BERT等模型。
那么什么是语言模型呢？或者说如何判断一个模型是不是语言模型呢？
首先我们来看一下语言模型（LM）的两个目标：
（1）LM的目的是为一个句子或词序列赋予一个概率。
（2）LM预测下一个词的概率，也就是说它预测下面最有可能出现的一个词。
任何一个具有上面任务的模型称为语言模型。如word2vec通过当前词预测上下文词，或通过上下文词曲预测当前的目标词。其他语言模型不再追述，有兴趣的可以自行查阅资料。
参考：python自然语言处理