Hopfield神经网络分析

Hopfield神经网络是一种带反馈的神经网络,这篇文章暂且只讨论离散网络。

神经元工作方式

考虑由三个神经元组成的离散Hopfield神经网络,其结构如下图:

第0层作为网络的输入,从第1层开始才是神经元节点。神经元的输入包括两个部分,外部输入和神经元输出的反馈。

神经元的输入:\small U_{j}=\sum_{i}^{n}W_{ij}Y_{i}+X_{_{j}}                                  (\small Y:神经元的输出、\small X:神经元的外部输入、\small W:权值)

神经元的输入代入阈值函数\small f(x),如果大于设定阈值神经元输出1,小于则输出0。因为神经元是由0、1两个输出,所以这种网络结构称之为离散型Hopfileld神经网络。假设Hopfield网络有一初始外部输入,在输入的激励下,会产生不断的状态变化。在权值的影响下,最终系统会稳定在一个状态。这里的状态是值所有神经元的输出\small Y(t)=[Y_{_{1}}(t),Y_{_{2}}(t),...Y_{_{n}}(t)]^{^{T}}(假设有n个神经元)

教材说到这里就不往下说了,要么就是公式轰炸,不摆原理,实在是没有心思和教材死磕,知乎、CSDN、简书上所有相关的资料都看了一遍,还是一知半解。暂时把我遗留的问题摆在这里,等找到答案之后再码上来。也希望看到这篇文章的朋友能相互交流一下。

问题/思考:

1、Hopfield神经网络与BP神经网络不同的是它的权值再搭建网络的时候就确定了,之后也不会变化。那么要如何设计权值呢?怎么保证由此设计的权值,最终网络得到的稳定状态就是正确的?

2、为什么说Hopfield网络可以实现联想、记忆功能?

是不是网络最终得到的稳定的输出状态就是“记忆”/“存储”的内容,而联想就是从任意状态经过反馈神经网络而最终到稳定状态的这一过程。有没有一个具体的案例来说明这个问题呢?

3、为什么Hopfield网络的能量函数是\small E=-\sum_{i,j}x_{i}x_{j}w_{i,j}+\sum_{i}\theta _{i}x_{j}?是否通过这个能量函数可以找出设计权值的方法

一些后期可能会用的资料:

https://www.jianshu.com/p/30fdc835d5b3

https://blog.csdn.net/weixin_39707121/article/details/79041536

https://www.zhihu.com/question/56994540

猜你喜欢

转载自blog.csdn.net/xiaohejiaoyiya/article/details/84585033
今日推荐