学习Make your own neural network 记录

1. threshold临界点:当training data足够多的时候,便会达到临界点, 使得神经元释放output

2. Activation functions: 激励函数,在神经网络中,利用激励函数可以把线性函数转化为平滑的曲线型函数

  sigmoid函数: \sigma(x) = \frac{1}{1 + e^{-x}}     当x=0时,y=0.5

  

在开始阶段,会有很多input进入神经元:

 在input数量不足时,sigmoid函数会一直压制output,直到pass临界点

猜你喜欢

转载自www.cnblogs.com/ChrisInsistPy/p/9002880.html