1. ReLU函数-“修正线性单元”函数，其中“修正”的意思是大于等于0。
2. 标准神经网络、卷积神经网络（CNN）、循环神经网络（RNN）：
3. 结构化数据：数据的数据库；
非结构化数据：音频、图片等
4. 深度学习相对于其它机器学习技术（比如支持向量机）的优势是：在数据越来越多的情况下，它的映射精确度将显著优越于其它机器学习技术。这是深度学习兴起的原因。如下图所示：
扫描二维码关注公众号，回复：
2203291 查看本文章
5. 深度学习的发展依赖于：数据（data）、计算能力(computation)、算法(algorithms)