概率图模型(PGM)-LDA 隐含狄利克雷分布学习记录

版权声明：其他网站转载请注明原始链接，尽量不要破坏格式 https://blog.csdn.net/landstream/article/details/78735993

LDA

贝叶斯概率模型：先验概率+观察数据 -> 后验概率

LDA以其灵活地对主题的分布进行概率估计，被广泛应用于主题模型抽取之中。这里仅列举概念和读过的资料，具体内容不赘述。多种语言中已经实现过此算法。总之，这是一个好用但不好吃透的算法，最后得到的也只是近似最优解。

涉及到的知识

1. 多项分布
2. 狄利克雷函数
3. 马尔科夫链：平稳转移矩阵，收敛
4. 吉布斯采样

Reference

1. Lda数学八卦-靳志辉
2. 通俗理解 Lda 主题模型 2015
3. Parameter Estimation for Text Analysis - Heinrich, Gregor(详细讲解了 LDA+Gibbs sampling 抽取文本主题模型的过程)