判别式模型与生成式模型的区别

生成式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于：

　　对于输入x，类别标签y：
　　生成式模型估计它们的联合概率分布P(x,y)
　　判别式模型估计条件概率分布P(y|x)

　　生成式模型可以根据贝叶斯公式得到判别式模型，但反过来不行。

Andrew Ng在NIPS2001年有一篇专门比较判别模型和生成式模型的文章：
On Discrimitive vs. Generative classifiers: A comparision of logistic regression and naive Bayes

(http://robotics.stanford.edu/~ang/papers/nips01-discriminativegenerative.pdf)

判别式模型常见的主要有：

　　逻辑回归           　　Logistic Regression 

　　支持向量机       　　SVM 

　　神经网络           　　NN 

　　传统神经网络    　　Traditional Neural Networks 

　　邻近取样           　　Nearest Neighbor 

　　条件随机场        　　CRF 

　　线性判别分析     　　Linear Discriminant Analysis 

　　提升算法            　　Boosting 

　　线性回归            　　Linear Regression 

　　逻辑斯蒂回归　 　　Logistic Regression 

　　高斯过程　　    　　Gaussian Process 

　　分类回归树　　　　Classification and Regression Tree (CART)

　　区分度训练　　　　

 生成式模型常见的主要有：

        高斯　　   　　　　Gaussians

        朴素贝叶斯　　 　  Naive Bayes

        混合多项式　　　　Mixtures of Multinomials

        混合高斯模型　　   Mixtures of Gaussians

        多专家模型　　　　Mixtures of Experts

        隐马尔科夫模型　　HMM

　　 S型信念网络　　　  Sigmoidal Belief Networks

　　 贝叶斯网络　　　　 Bayesian Networks

　　 马尔科夫随机场　　 Markov Random Fields

　　 潜在狄利克雷分配　 Latent Dirichlet Allocation(LDA)

        判别式分析

　　 K近邻　　　　　　  KNN

 　　深度信念网络　　　 DBN

链接：https://www.nowcoder.com/questionTerminal/12a74c2872d74842819d94ccda7368bc?toCommentId=184277
来源：牛客网