深度学习理论基础7-初识神经网络

为了有种仪式感。我给出了神经网络的抽象表示。各层的名字图上已经给的很清楚了。图上没有体现到的知识是,中间层也叫隐藏层。因为这个模型只有2层有权重,所以通常被叫做'2层网络'。

让我们回到感知机。下面是感知机的数学公式表示:

还是原来的配方,还是原来的味道。接着给你感知机的图像表示,只是这次我们不要省略b,而是明确的把b添加到图里面,下图:

想必有一撮读者在此处懵逼了几秒。不知道1是什么意思。其实就是1作为一个输入信号,b作为权重。1*b还是b。

此时y的值是多少呢?如果 b + w 1 * x1 + w 2 *x 2 大于0时y为1,否则为0.

但是文字描述,是不能用作计算的。所以我们用一个函数来表示这一句描述:y = h(b + w 1 x 1 + w 2 x 2 ) 。

现在只需要把h()实现就可以了:

哦哦。真是一个简单到爆炸的函数。不要着急。这只是开始(我是不是剧透了)。

虽然简单,人家是有正式的并且很帅的名字的-----激活函数!

给这个过程来张全家福:

那么,问题来了。激活函数是不是只有这一个成员呢?当然不是啦。是我还会问吗?有更加复杂的激活函数,我们在下一节讨论,大家先回家吃饭吧。下一节再见!

猜你喜欢

转载自blog.csdn.net/qq_40878431/article/details/85395047