第五章(续)

• 第五章 神经网络
  • 1.Cost function
  • 2.Backpropagation algorithm
  • 3.Backpropogation intuition
  • 4.Gradient checking
  • 5.Random initialization
  • 6.Putting it together

这周仔细学了一下神经网络，主要是反向传播算法。

第五章 神经网络

1.Cost function

代价函数用来衡量假设函数的准确性。
形式如下：

神经网络的目的是通过学习，令代价函数的值尽可能小。常用的方法有梯度下降等优化方法。梯度下降可以通过学习获得极小值，来获得较为可靠的模型。

2.Backpropagation algorithm

3.Backpropogation intuition

4.Gradient checking

运用数值方法检测反向传播是否有错误。

过程如下：

5.Random initialization

初始的权重需要随机，因为相同的权重值无法进行学习。

6.Putting it together

使用神经网络进行学习的主要流程如下：

这周理解了神经网络的思想，然后推导了一些公式，接下来打算编程实现一下功能。