人工智能、机器学习、深度学习三者可以被简单描述为嵌套关系：
- 简单来说，机器学习是实现人工智能的方法；
- 深度学习是实现机器学习的技术之一；
- 也可以说，机器学习是人工智能的子集，深度学习是机器学习的子集
人工智能
– 1956年，在美国的达特茅斯学院，正式提出了人工智能(Artificial Intelligence)的概念。
– 人工智能，是计算机科学的一个分支，是一门研究机器智能的学科，即用人工的方法和技术来研 制智能机器或智能系统，以此来模仿、延伸和扩展人的智能。
– 人工智能的主要任务是建立智能信息处理理论，使计算机系统拥有近似于人类的智能行为
– 它是当前科学技术中正在迅速发展，且新思想、新观点、新理论、新技术不断涌现的一个学科
机器学习
– 定义： • 如果一个程序可以在任务T上，随着经验E的增加，效果P也可以随之增加，则称这个程序可以从经验中学习
– 机器学习是一种“训练”算法的方式，目的是使机器能够向算法传送大量的数据，并允许算法进行自我调整和改进
– 传统机器学面临特征选择等问题很难解决
– 深度学习自动完成了特征选择，大大增加了模型的能力和工程效率
深度学习
– 相比于传统的机器学习，深度学习不再需要人工的方式进行特征提取，而是自动从简单特征中提取、组合更复杂的特征
– 深度学习可以理解为传统神经网络的拓展,每一层就相当于在某个抽象级别抽取特征
– 深度学习是基于多层神经网络的，以海量数据为输入的，规则自学习的方法
– 然而为什么一定是深度？深层神经网络比浅层好在哪里？
• 一方面，深度学习在重复利用中间层计算单元的情况下，大大减少了参数的设定。
– 在过去的神经网络中，人们对经验的利用，靠人类自己完成。在深度学习中，经验以数据形式存在。
• 另一方面，深度学习通过学习一种深层非线性网络结构，只需简单的网络结构即可实现复杂函数的逼近，并展现了强大的从大量无标注样本集中学习数据集本质特征的能力。
– 深度学习可以获得更好的方法表示数据的特征，同时由于模型的层次深、表达能力强，因此有能力处理大规模数据。对于图像、语音这种直接特征不明显（需要手工设计且很多没有直观的物理含义）的问题，深度模型能够在大规模训练数据上取得更好的效果。
– 值的注意的是，深度学习不是万能的，像很多其他方法一样，它需要结合特定领域的先验知识，需要和其他方法结合才 能得到最好的结果。
– 此外，类似于神经网络，深度学习的另一局限性是可解释性不强，像个“黑箱子”一样难以解释为什么能取得好的效果， 以及不知如何有针对性地去具体改进，而这有可能成为前进过程中的阻碍