1. 感知机(感知神经元)
一个感知机就是接受几个输入,并产生一个输出.
输入与那条边对应的权重的乘积求和就是我们用来计算输出的第一步.
我们通过比较这个和值与指定阈值的相对大小产生0和1不同的输出:
2. 感知机的结构名词
我们改写原有的分段函数,将阈值用-b代替:
这里的b我们称作偏置.
3. S型神经元
S型神经元同样有很多输入,但是不仅限于0和1,它们可以是0和1之间任意值,比如0.618
对于不同的输入,也具有对于的权值,还有一个偏置项b
输出不是简单的0和1.而是一个S型函数(Sigmoid)的结果
S形函数是这样的形式:
我们先求和:
加上偏置项:
带入S形函数:
S型曲线:
4.神经网络架构
作为输入的一层称为输入层
作为输出的一层称为输出层
中间其它层称为隐藏层
tip:虽然神经网络一般选用s型神经元而不是感知神经元,但是往往称之为多层感知机(MLP)
我们常用的神经网络往往是前一个神经元的输出作为后一个神经元的输入对待,这样的神经网络我们称之为前馈神经网络.