原创文章，转载请说明来自《老饼讲解神经网络》:bp.bbbdata.com
关于《老饼讲解神经网络》：
本网结构化讲解神经网络的知识，原理和代码。
重现matlab神经网络工具箱的算法，是学习神经网络的好助手。
对于新人，搜出的神经网络资料一大堆，往往不知从何下手，又不知哪里是终点，
本文笔者给出自己的建议，希望能给到新人一些帮助。
一、学习的内容
学习神经网络要学习哪些内容？
（一）明确学习方向
人们概念中的神经网络大概指三块：
1、传统经典神经网络
2、BP神经网络
3、深度学习如果要搞图象、音频、文本这三大块，那就要学BP神经网络+深度学习，
如果不搞图象、音频、文本这三大块，那就是BP神经网络+传统经典神经网络也可以理解为，
如果只是用BP辅助解决一些不涉及图象音频文本的专业问题，那就走BP神经网络+传统经典神经网络方向。
如果需要解决图象音频文本或人工智能等问题，就需要走深度学习方向。
两者的焦点、学习方法、所需基础知识和学习成本是极大地不同的，不可混为一谈。
而本站，则是BP神经网络+传统经典神经网络这一方向。
如果需要学习深度学习，那需要去深度学习的专业网站，这样更有效率。
（二）明确学习内容
好，如果确定学习的是BP神经网络+传统经典神经网络，
那我们就只需捊清共有多少个传统经典神经网络算法就可以了。
传统经典神经网络算法：
径向基神经网络：精确径向基、径向基、广义神经网络、概率神经网络
竞争神经网络：LVQ、SOM
其它：感知机、Hopfield、Elman
这里列的并不是100%全面，没办法100%全面，太多了，我们只挑出必学的经典代表。
算法学习路线
1、从BP开始学习
BP的重要性
首先，我们的目标，肯定是要学习BP神经网络的，
它是最有代表性，也最为实用的神经网络，也是过渡到深度学习的基础。
或者说，如果你没学会BP，都不好说自己懂神经网络。所以，已经锁定了目标，学习神经网络=学习BP神经网络。
为什么直接学习BP
有很多书本的介绍，是从感知机开始，由简到易，
但笔者并不这样建议。
BP并不是那么难以入手，
如果按照历史发展，由简到易地去学，要耗费非常多的时间，
很可能在还没学到BP，就已经耗尽了激情。
反而一开始就着手学习BP，会非常有成就感，反而能激发着自己不断继续学习。
更重要的是，其它神经网络与BP并没有太大关系，
笔者看不到先学习其它神经网络对学习BP有什么好处，仅仅是为了给脑袋预热？
2、传统经典神经网络的学习顺序
传统神经网络有感知机、LVQ、SOM、径向基等等。
学习哪一个都没有太大关系，这些算法都是很小的一个算法，
它们之间没有太大的关联，找时间不断逐个击破即可。
但如果一定要给个优先度，那笔者建议如下学习：
径向基-->LVQ-->SOM-->感知机-->Hopfield-->Elman
这样的排序主要基于学习难度与算法实用程度的综合性价比。
BP路线
BP学习的路线建议如下
1、先掌握一些基础理论，调用工具箱实现一些DEMO。
基础理论key word有：归一化、过拟合、梯度下降等
2、将BP神经网络应用于自己的项目。
3、学习梯度下降法重写BP神经网络。
4、学习LM算法重写BP神经网络。
在理论学习的同时，更多的是实践中积累的经验，
只有在实践中不断发现问题，解决问题，才能更加深入的理解和应用好算法。
相关文章