一、什么是神经网络
神经⽹络，⼀种美妙的受⽣物学启发的编程范式，可以让计算机从观测数据中进⾏学习。
二、神经网络的发展史
一、神经网络最初起源于心理学家的研究
二、生物学家和数学家又提出了神经元的概念，
三、计算机学家收到了启发，提出了具有三层特性的神经网络结构，称为感知机，这时的计算机届认为一切东西都可以通过多层神经元推导出来
四、1969年，Minsky 和 Paper 提出简单神经网络只能用于线性问题的求解，要想求解非线性问题，网络应该具有隐藏层。
五、从这以后，神经网络经历了一段时间的低估。
六、复兴，Hopfield 提出了 Hopfield 神经网络，Hinton（神经网络大神） 和 Sejnowski 提出了随机神经网络模型——玻尔兹曼机，后来它们有改进该模型并提出了受限玻尔兹曼机。
后来又有人发明了 BP 算法（多层感知器的误差法向传播算法）
三、神经网络的种类
神经网络基础：单层感知器、线性神经网络、BP 神经网络、Hopfield 神经网络等
神经网络进阶：玻尔兹曼机、受限玻尔兹曼机、递归神经网络等
深度学习网络：深度执行网络、卷积神经网络、深度残差网络、LSTM 网络等
网络、卷积神经网络、深度残差网络、LSTM 网络等
