(1)包含输入层,隐藏层,输出层
神经网络模型特点:同一层之间的神经元不连接,两个相邻层完全连接(每一层的每一个神经元到另一层的每个神经元)
(2)感知机
(输入x1,x2.......xn,偏移量b,权重Wn,组合函数c=xn*wn+b,激活函数用于计算输出前把值变为所需要的值,输出y)
(3)常用神经网络构架:https://blog.csdn.net/nicholas_liu2017/article/details/73694666
(4)深层次深度学习的难点:梯度消失、梯度爆炸、权重矩阵的退化
https://blog.csdn.net/BinChasing/article/details/50300069
http://mini.eastday.com/mobile/180116023302833.html
(5)一般神经网络计算:
利用前向传播(FP)在激活函数的辅助下计算出一个大概值,然后采用梯度下降法降低结果误差,反复进行前向传播和反向传播(BP):
https://blog.csdn.net/lhanchao/article/details/51419150
(6)卷积神经网络:https://www.zybuluo.com/hanbingtao/note/485480