神经网络中的全连接层

​​
上图是一个非常简单的实现线性回归的神经网络，输入分别是 $x_1,x_2$，因此输入个数也称作特征数，或者特征向量维度。这个神经网络的输出是 $o$，即 $y=o$。这里是一个单层的神经网络，而输入层不发生运算，因此这里的 $o$单元发生运算，也被称为神经元。这里输出的计算完全依赖输入层所有输入，因此这里的输出层有称为全连接层(fully-connected layer)或者稠密层(dense layer)。