本文转发自：
https://blog.csdn.net/keycxl/article/details/78625943
一.生成模型与判别模型
详细对比：
http://blog.csdn.net/zouxy09/article/details/8195017
其中：
常见的判别式模型有：
Logistic regression（logistical 回归）
Linear discriminant analysis（线性判别分析）
Supportvector machines（支持向量机）
Boosting（集成学习）
Conditional random fields（条件随机场）
Linear regression（线性回归）
Neural networks（神经网络）
常见的生成式模型有:
Gaussian mixture model and othertypes of mixture model（高斯混合及其他类型混合模型）
Hidden Markov model（隐马尔可夫）
NaiveBayes（朴素贝叶斯）
AODE（平均单依赖估计）
Latent Dirichlet allocation（LDA主题模型）
Restricted Boltzmann Machine（限制波兹曼机）
二.监督与非监督学习
详细对比：
http://blog.csdn.net/lsh_2013/article/details/47342641
常见的监督学习算法有哪些？
感知机、svm、人工神经网络、决策树、逻辑回归
常见的无监督学习算法有哪些？
包括所有的聚类算法，比如k-means PCA gmm等
深度学习只是指结构有深度的算法，可以无监督可以有监督
比如sparse coding/sparse auto encoder是无监督，CNN是有监督
三.线性与非线性分类
详细对比：
http://blog.csdn.net/u014755493/article/details/70182532
线性分类器：模型是参数的线性函数，分类平面是（超）平面；
非线性分类器：模型分界面可以是曲面或者超平面的组合。
典型的线性分类器有感知机，LDA，逻辑斯特回归，SVM（线性核）；
典型的非线性分类器有朴素贝叶斯（有文章说这个本质是线性的，http://dataunion.org/12344.html），kNN，决策树，SVM（非线性核）