NeuralNetwork And Deep Learning 实验操作Chapter3

实验环境

Python3.6 shell

步骤

shell中FIle->open找到mnist_loader.py，打开。

之后，run->run moudle,在shell中会出现如下文字

交叉熵实验
输入如下命令


运行结果

最优结果为9568/10000，比二次代价函数要好。

over fitting

选择training_data的前1000张，Epoch=400
输入如下命令

运行结果

结果：最好结果仅为8179/10000，过度拟合

regularization

1、lambda=0.1，training_data=1000


2、lambda=5.0,training_data=50000

结果：准确率得到显著提升，即regulariziation可以抑制overfitting。