人工神经网络模型
人工神经网络模型是指对网络结构、联结权值和学习能力的总括。常用的网络模型已有数十种。例如:
传统的感知机模型;具有误差反向传播功能的反向传播网络模型;采用多变量插值的径向基函数网络模型;建立在统计学习理论基础上的支撑向量机网络模型;采用反馈联接方式的反馈网络模型;基于模拟退火算法的随机网络模型。
重点讨论
1. 感知器(Perceptron)模型
2. 反向传播(BP)模型
3. 反馈网络(Hopfield)模型
一、感知器模型
感知器是美国学者罗森勃拉特(Rosenblatt)于1957年为研究大脑的存储、学习和认知过程而提出的一类具有自学习能力的神经网络模型,其拓扑结构是一种分层前向网络。它包括:单层感知器和多层感知器。
单层感知器是一种只具有单层可调节连接权值神经元的前向网络,这些神经元构成了单层感知器的输出层,是感知器的可计算节点。
在单层感知器中,每个可计算节点都是一个线性阈值神经元。当输入信息的加权和大于或等于阈值时,输出为1,否则输出为0或-1。
单层感知器的输出层的每个神经元都只有一个输出,且该输出仅与本神经元的输入及联接权值有关,而与其他神经元无关。
二、BP网络模型
误差反向传播(Error Back Propagation)网络通常简称为BP(Back Propagation)网络,是由美国加州大学的鲁梅尔哈特和麦克莱兰在研究并行分布式信息处理方法,探索人类认知微结构的过程中,于1985年提出的一种网络模型。
BP网络的网络拓扑结构是多层前向网络,如图4.16所示。在BP网络中,同层节点之间不存在相互连接,层与层之间多采用全互连方式,且各层的连接权值可调。BP网络实现了明斯基的多层网络的设想,是当今神经网络模型中使用最广泛的一种。
三、Hopfield网络结构
Hopfield网络是由美国加州工学院物理学家霍普菲尔特1982年提出来的一种单层全互连的对称反馈网络模型。它可分为离散Hopfield网络和连续Hopfield网络,限于篇幅,本书重点讨论离散Hopfield网络。
离散Hopfield网络的结构
离散Hopfield网络是在非线性动力学的基础上由若干基本神经元构成的一种单层全互连网络,其任意神经元之间均有连接,并且是一种对称连接结构。一个典型的离散 Hopfidld网络结构如图4-17所示。离散Hopfield网络模型是一个离散时间系统,每个神经元只有0和1(或-1和1)两种状态,任意神经元i和j之间的连接权值为wij。由于神经元之间为对称连接,且神经元自身无连接,因此有
引:人工智能原理及其应用