1、人工神经网络（ANN）
可以参考文章：
人工神经网络（ANN）简述 - 简书 (jianshu.com)
一个神经网络一般是由输入层、隐含层、输出层组成
- 输入层：可以含有多个神经元、接收多维的信号输入（特征信息）
- 隐含层：可有多个神经网络层，每层有多个神经元
- 输出层：可以有多个神经元，即可输出多维信号
每个神经元之间的连接突触都有一定的权重与规则，并且使用激活函数将输入信号激活为输出信号
Dense层（全连接层）：在该层上每个神经元与上一层的每个神经元全连接，没有权重共享，通常作为最后一层输出
2、循环神经网络（RNN）
可以参考的文章：
一文搞懂RNN（循环神经网络）基础篇 - 知乎 (zhihu.com)
从字面意思便可知，该类神经网络包括循环的网络，允许信息在神经元之间传递
输入层中的数据经过隐藏层后经过处理输出一部分给结果O，一部分作为隐藏层的输入信号流进行下一个隐藏层
扫描二维码关注公众号，回复：
17670370 查看本文章
P.S：在实际使用过程中，信息的传递往往会因为时间间隔过长而逐渐衰减，普通的RNN对于信息的长期依赖问题没有很好的处理。就此问题，有相关的解决方法，如LSTM模型的遗忘门、记忆门、输出门结构
3、卷积神经网络（CNN）
可以参考的文章：
机器学习算法之——卷积神经网络(CNN)原理讲解 - 知乎 (zhihu.com)
一个卷积神经网络主要有五层：
- 数据输入层
- 卷积计算层
- ReLu层/非线性层/激活层：把卷积层输出结果作非线性映射， CNN采用的激活函数一般是ReLu（修正线性单元）。
- 池化层：用于压缩数据和参数的量，减少过拟合的风险。
- 全连接层
卷积神经网络常用于分析视觉图像
参考文章：