1、AI深度学习（Deep Learning）：让计算机从经验中学习，并根据层次化的概念体系来理解世界，而每个概念则通过与某些相对简单的概念之间的关系来定义。
2、AI的一个关键挑战：将非形式化的知识传达给计算机。
3、知识库（knowledge base）：将关于世界的知识用形式化的语言进行硬编码（hardcode），计算机再使用逻辑推理规则来自动理解这些形式化语言中的声明，但最终的结果并不好。
4、机器学习（Machine Learning）：AI系统需要具备自己获取知识的能力，从原始数据中提取模式的能力。
5、表示学习（Representation Learning）：许多人工智能的任务都可以通过“先提取一个合适的特征集，然后将这些特征提供给简单的机器学习算法”来解决，但是对于很多任务来说，我们很难知道应该提取
哪些特征。解决这个问题的途径之一就是使用机器学习来发掘“表示”本身，而不仅仅把表示映射到输出。
Typical Example：自编码器（autoencoder）=编码器（encoder）函数+解码器（decoder）函数。其中编码器函数将输入数据转换为一种不同的表示，而解码器函数将新的表示转换到原来的形式。我们期望
输入数据经过编码器和解码器之后尽可能多地保留信息，同时希望新的标识有各种好的特性。
6、度量模型深度的两种主要方式：①基于评估架构所需执行的顺序指令的数目 ②用于深度概率模型中，不是将计算图的深度视为模型深度，而是将描述概念彼此如何关联的图的深度视为模型深度。
7、AI技术的包含关系：深度学习 deep learning（如多层感知机MLPs）<表示学习 representation learning（如shallow autocoders）<机器学习 machine learning（如logistic regression）<人工智能 AI（如
knowledge bases）
8、深度学习的历史趋势：
①深度学习历史悠久丰富，但随着许多不同哲学观点的渐渐消逝，与之对应对的名称也渐渐尘封；
②随着可用的训练数据量不断增加，深度学习变得更加有用；
③随着时间的推移，针对深度学习的计算机软硬件基础设施都有所改善，深度学习模型的规模也随之增长；
④随着时间的推移，深度学习已经解决日益复杂的应用，并且精度不断提高。