王权富贵:在全连接层网络中权重矩阵方向和输入矩阵方向的问题-----《Python神经网络编程》的学习笔记

笔记汇总:https://blog.csdn.net/a1103688841/article/details/84350432

这里规定一下矩阵的方向

1)input输入,隐藏层输出和output输出。

这些输出都是一组信息一列的形式。

2)权重矩阵

行代表输出节点个数

列代表输入节点个数

计算点乘是  (行 * 列)权重矩阵的行*输入矩阵的列 

例如:这里权重矩阵的第一行都是由列的切片构成,这里的就是所有的前一层的输入节点同时连到下一个隐藏层第一个节点的全部权重。

输入矩阵的列包含的是每一组前一层要输入的到这一层的信息

3)权重矩阵和对应输入列矩阵点乘的结果

假如是1组数据。则如开头图所示。2*2点乘2*1最后得到2*1的矩阵。

假如是3组数据。2*2点乘2*3最后得到2*3的矩阵。这里的每一列都是一组数据。有3列就是3组数据

猜你喜欢

转载自blog.csdn.net/a1103688841/article/details/85153428