我是在14年9月刚读研的时候听到一个说法叫“类人脑算法”很火热，之后搞了很长一段时间相关的蓄水池算法等，但大都没有摸到门路而中途放弃了。
现今看来，还是缺少一些知识背景，也不善于在网络上学习，随时间推移，也逐渐明白这是机器学习的一小部分，并且逐渐发展的名称叫做人工神经网络的算法，如果网络层较多，又会有个别名，叫做深度学习。其中用到的最著名算法是背向传输算法（backpropagation），而这个算法，是我曾经推倒导过的。如今重新捡起，感慨万千。
先讲述一个概念：多层前馈神经网络（Multilayer Feed-Forward Neural Network）
如图所示，有输入层（input layer）,隐藏层（hidden layer）,输出层（output layer）
一、每层由单元（unit）组成
二、输入层由训练集的实例特征向量传入
三、每个结点都有权重（weight）传入下一层，一层的输出是下一层的输入。
（根据生物学上的定义，每个单元成为神经结点）
四、以上成为两层神经网络（输入层不算）
五、每一层的加权求和，到下一层结点上还需要非线性函数激活，之后作为输出
六、作为多层前馈神经网络，如果由足够多的隐藏层，和足够大的训练集，理论上可以模拟出任何方程。
反向传输算法核心（backpropagation）
特点 ：
1、通过迭代来处理训练集中的实例
2、计算输入层预测值（predicted value）和真实值（target value）之间的差值error
3、反向传输（输出层->隐藏层->输入层）来最小化误差（error）来更新每个链接的权重（weight）