我们知道了神经网络的基本结构预期神经元节点输入输出的计算方法。我们可以将现在的神经网络看出一个巨大的有向无环图。
神经网络向量化
1.python的numpy处理数据，所有的数据python总都会尽量被表示为一个多维数组或者矩阵。
需要理解如何将人工神经网络转化成向量的存储和计算方式?
我们来看一下，这里W表示第一层和第二层的所有连接参数。w就是第1层和第1个节点和第2层第1个节点的权重。w12就是第1层第2个节点
x= [x1,x2,x3]
这里其实有3X3个参数，因为第1层有3个节点，第2层也有3个节点。所以我们可以非常自然将3X3个参数组织成为我们数字3X3矩阵。
z=wx+b
a=f(z)以此类推，把每层进行输入h(w,b)(X)=a=f(z)
前向传播
xi=>Network f(x)=》f(X)
反向传播算法
J(W,b;xi,yi)=1/2 f(xi)-yi|| 平方
损失函数描述了模型求值结果和样本真实结果之间的差距。神经网络的使用的方法就是梯度下降法。所谓梯度下降法的根据模型的损失。不断将参数往损失降低的最低。每一个点就是一次迭代与下降的结果，其目的就是不断减低损失函数的值。