神经网络基础学习笔记(一)感应机(人工神经元)

目录

第二章:感应机(人工神经元)

二. 感知机

2. 简单逻辑电路

2.1简单逻辑电路

2.2代码实现:

2.3导入权重和偏置

2.4感知机局限性

2.5多层感知机实现(解决异或门)

2.6 小结


第二章:感应机(人工神经元)

感知机作为神经网络起源的算法

二. 感知机

概念:感知机其实就是流与不流的问题,流就是1不流就是0、0 对应“不传递信号”,1对应“传递信号”

                      

x1,x2是输入,y是输出,w1,w2是权值,x*w之和超过阀值θ时才会激活y

 

2. 简单逻辑电路

2.1简单逻辑电路

这里与门、与非门、或门的逻辑电路就比较简单,就是根据与或非,然后结合上面感知器的公式求和是否超过阀值来激活神经元

2.2代码实现:

   与门实现:其他也是类似的

  

2.3导入权重和偏置

        如果根据上式,θ是个负数的话,我们可以把他换成-b,转换得到

 

偏置和权重的作用是不一样的,权重是控制输入信号的重要性的参数,而偏置是调整神经元被激活的容易程度(输出信号为1的程度)的参数     

numpy代码实现:

注意:这部分权重是根据经验计算而来的

2.4感知机局限性

 

 

曲线分割而成的空间称为非线性空间,由直线分割而成的空间称为线性空间

其中感知机可以表示与、或和与非门,他们都是线性的,但是异或却不是线性的,不能由感知机单层表示,但是可以多重感知机表示

2.5多层感知机实现(解决异或门)

 

 

在梳理逻辑的学习里-这种多重结构解决了异或门

 

代码实现:

逻辑如下:

 

假设,异或门是一种多层结构的神经网络。这里,将最左边的 一列称为第0层,中间的一列称为第1层,最右边的一列称为第2层

 

感知机通过叠加层能够进行非线性的表示,理论上还可以表示计算机进行的处理

2.6 小结

是数理课本的内容,最主要是能够理解 感知机 与神经网路的关系

猜你喜欢

转载自blog.csdn.net/qq_37457202/article/details/107475986