李宏毅机器学习——学习笔记（7） Backpropagation and keras

• 全连接网络
  
• Deep network 其实是矩阵操作，权重矩阵乘以输入向量，加上bias向量即可

Backpropagation

keras

• 感觉这个很形象
  

1. keras创建神经网络的步骤：

model = Sequential()
model.add(Dense(input_dim = 28* 28, output = 500))
model.add(Acivation(‘sigmoid ’))

2. 定义损失函数

3. 进行训练

4. 训练过程中，不会选取所有的样本的loss进行参数更新，而是选择大小为mini_batch的样本进行参数训练；将所有的mini_batch训练完成一次，为一个epoch；整个训练过程有10几个epoch。由于GPU的并行运算方式

5. 利用keras进行模型效果评定和预测