BP神经网络概念
BP神经网络的计算过程：
由正向计算过程和反向计算过程组成；
正向计算过程，输入模式从输入层经隐单元层逐层处理，并转向输出层，每一层神经元的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转入反向计算，将误差信号沿原来的连接通路返回，通过修改各神经元的权值，使得误差信号最小；
1.正向计算
2.反向计算
- 误差传递
采用矩阵就算反向传递的误差：
- 权重更新
为了使网络计算的输出值与实际值趋近，需要一个衡量标准，该标准就是这个误差值，而计算输出值是权重决定的，所以需要找到权重是怎样影响输出的，所以通过权重与误差进行求导，计算权重变化时的误差变化情况，找出误差随着权重变化的那个最小值对应的权重即要确定的权重；
求解误差变化率：
根据误差计算更新的权重值：
更新权重示例：
1）（tk-ok）=e1=0.8
2）S函数内的求和Σjwj,koj为（2.0×0.4）+（3.0 * 0.5）=2.3
3）sigmoid 1/(1+e -2.3) 为0.909。中间的表达式为0.909 *（1-0.909）=0.083
4）由于我们感兴趣的是权重w1,1，其中j=1，因此最后一项oj也很简单，也就是oj=1。此处，oj值就是0.4
5）将上项相乘，同时不要忘记表达式前的负号，最后我们得到-0.0265。如果学习率为0.1，那么得出的改变量为-（0.1 * -0.02650）=+0.002650。因此，新的w1,1就是原来的2.0加上0.00265等于2.00265
3.初始数据
- 输入：
0~1，不能为0,避免无学习能力；
- 输出：
0~1；
- 权重：
经验值：
±1/√n;n是一个节点传入链接数量传入链接数量，不能为0，否则无学习能力；