来源
数据库：http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=jsjyjyfz201309002
术语
深度学习（deep learning, DL）
深度神经网络（deep neural networks, DNN）
浅层学习（shallow learning）
反向传播算法（Back Propagation, BP）
多层感知机（multi-layer perceptron）
逻辑回归（logistic regression, LR）
混合高斯模型（gaussian mixture model, GMM）
隐马尔可夫模型（hidden markov model, HMM）
卷积神经网络（convolution neural networks, CNN）
随机梯度下降（stochastic gradient descent, SGD）
机器学习
何为机器学习
简单地说，机器学习就是通过算法，使得机器能从大量历史数据中学习规律，从而对新的样本做出智能识别或对未来做预测。
机器学习之浅层学习
在深度学习方法出现之前，由于多层人工神经网络训练的难度，实际使用的大多数人工神经网络是只含有一层隐层节点的浅层模型。常用的浅层机器学习模型有：支持向量机（SVM）、Boosting、最大熵方法等。
机器学习之深度学习
深度学习方法的基本原理：深度学习通过建立类似于人脑的分层模型结构，对输入数据逐级提取从底层到高层的特征，从而能很好地建立从底层信号到高层语义的映射关系。
2006年Hinton的文章给出了两个重要的信息：1）很多隐层的人工神经网络具有优异的特征学习能力，学习到的特征对数据有更本质的刻画，从而有助于可视化或分类；2）深度神经网络在训练上的难度，可以通过“逐层初始化”来有效克服。
深度学习的实质是通过构建具有很多隐层的机器学习模型和海量训练数据，来学习更有用的特征，从而最终提升分类或预测的准确性。
深度学习的相关应用：语音识别、图像识别、自然语言处理、搜索广告CTR预估