1 人工神经网络的概念
现在关于人工神经网络的定义还不统一，按国际著名神经网络研究专家 Hecht Nielsen 的观点， 神经网络的定义是：人工神经网络是由人工建立的、以有向图为拓扑结构的动态系统，它通过对连续或断续的输入作状态响应而进行信息处理。 我们综合来源、特点和各种解释，神经网络可简单地表述为：人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。
2 人工神经网络的发展
2.1 MP模型的提出和人工神经网络的兴起。
1943年，美国神经生理学家Warren Mcculloch和数学家Walter Pitts合写了一篇关于神经元如何工作的开拓性文章：“A Logical Calculus of Ideas Immanent in Nervous Activity”。该文指出，脑细胞的活动像断/通开关，这些细胞可以按各种方式相互结合，进行各种逻辑运算。按此想法，他们用电路构成了简单的神经网络模型，并预言大脑的所有活动最终将被解释清楚。虽然问题并非如此简单，但它给人们一个信念，即大脑的活动是靠脑细胞的组合连接实现的。此模型沿用至今，并且直接影响着这一领域研究的进展。因而他们两人可称为人工神经网络研究的先驱。
2.2感知器模型和人工神经网络
1957年，计算机专家Frank Rosenblatt开始从事感知器的研究，它是一种多层的神经网络。后续他将此制成硬件，通常被认为是最早的神经网络模型。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。当时世界上许多实验室仿效制作感知机，分别应用于文字识别、声音识别、声纳信号识别以及学习记忆问题的研究。
1959年，两位电机工程师Bernard Widrow和Marcian Haff开发出一种叫作自适应线性单元（ADALINE）的网络模型，并在他们的论文“Adaptive Switching Circuits”中描述了该模型和它的学习算法（ Widrow-Haff算法）。该网络通过训练，可以成功用于抵消通信中的回波和噪声，也可用于天气预报，成为第一个用于实际问题的神经网络。
2.3反思期—神经网络的低潮
1969年，Marvin Minsky和Seymour Papert合著了一本书“Perception”（如下图所示），分析了当时的简单感知器，指出它有非常严重的局限性，甚至不能解决简单的“异或”问题，为Rosenblatt的感知器判了“死刑”。此时批评的声音高涨，导致了政府停止对人工神经网络研究所需的大量投资。不少研究人员把注意力转向了人工智能，导致对人工神经网络的研究陷入低潮。
2.4人工神经网络的复苏
随着人们对感知机兴趣的衰退，神经网络的研究沉寂了相当长的时间。直到1984年，Hopfield设计研制了后来被人们称为Hopfield网的电路，较好地解决了TCP问题，找到了最佳解的近似解，引起了较大轰动。1985年，Hinton、Sejnowsky、Rumelhart等研究者在Hopfield网络中引入随机机制，提出了所谓的Bolziman机。1986年，Rumelhart等研究者独立地提出多层网络的学习算法—BP算法，较好地解决了多层网络的学习问题。
人们重新认识到神经网络的威力以及付诸应用的现实性。随即，一大批学者和研究人员围绕着 Hopfield、Hinton等提出的方法展开了进一步的工作，形成了80年代中期以来人工神经网络的研究热潮。1990年12月，国内首届神经网络大会也在北京成功举行。
2.5深度学习的出现
Hinton等人于2006年提出了深度学习的概念，2009年Hinton把深层神经网络介绍给做语音的学者们，然后2010年语音识别就产生了巨大突破。接下来11年CNN又被应用在图像识别领域，取得的成绩令人瞩目。2015年LeCun、Bengio和Hinton三位大牛在Nature上刊发了一篇综述，题为Deep Learning，这标志着深度神经网络不仅在工业届获得成功，还真正被学术界所接受。
2016、2017应该是深度学习全面爆发的两年，Google推出的AlphaGo和Alpha Zero，经过短暂的学习就完全碾压当今世界排名前三的围棋选手；科大讯飞推出的智能语音系统，识别正确率高达到了97%以上，其也摇身一变成为AI的领跑者；百度推出的无人驾驶体统Apollo也顺利上路完成公测，使得共享汽车离我们越来越近。种种的成就让举世哗然的人类再次认识到神经网络的价值和魅力。
3 人工神经网络的应用
经过几十年的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功。 下面介绍神经网络在一些领域中的应用现状。
3.1 人工神经网络在信息领域中的应用
在处理许多问题中，信息来源既不完整，又包含假象，决策规则有时相互矛盾，有时无章可循，这给传统的信息处理方式带来了很大的困难，而神经网络却能很好的处理这些问题，并给出合理的识别与判断。
3.1.1 信息处理
现代信息处理要解决的问题是很复杂的，人工神经网络具有模仿或代替与人的思维有关的功能， 可以实现自动诊断、问题求解，解决传统方法所不能或难以解决的问题。人工神经网络系统具有很高的容错性、 鲁棒性及自组织性，即使连接线遭到很高程度的破坏， 它仍能处在优化工作状态，这点在军事系统电子设备中得到广泛的应用。 现有的智能信息系统有智能仪器、自动跟踪监测仪器系统、自动控制制导系统、自动故障诊断和报警系统等。
3.1.2 模式识别
模式识别是对表征事物或现象的各种形式的信息进行处理和分析，来对事物或现象进行描述、辨认、分类和解释的过程。 该技术以贝叶斯概率论和申农的信息论为理论基础，对信息的处理过程更接近人类大脑的逻辑思维过程。 现在有两种基本的模式识别方法，即统计模式识别方法和结构模式识别方法。 人工神经网络是模式识别中的常用方法，近年来发展起来的人工神经网络模式的识别方法逐渐取代传统的模式识别方法。 经过多年的研究和发展，模式识别已成为当前比较先进的技术，被广泛应用到文字识别、语音识别、指纹识别、遥感图像识别、人脸识别、手写体字符的识别、工业故障检测、精确制导等方面[10]。
3.2 人工神经网络在医学中的应用
由于人体和疾病的复杂性、不可预测性，在生物信号与信息的表现形式上、变化规律（自身变化与医学干预后变化）上，对其进行检测与信号表达，获取的数据及信息的分析、决策等诸多方面都存在非常复杂的非线性联系，适合人工神经网络的应用。 目前的研究几乎涉及从基础医学到临床医学的各个方面，主要应用在生物信号的检测与自动分析，医学专家系统等。
3.2.1 生物信号的检测与分析
大部分医学检测设备都是以连续波形的方式输出数据的，这些波形是诊断的依据。 人工神经网络是由大量的简单处理单元连接而成的自适应动力学系统， 具有巨量并行性，分布式存贮，自适应学习的自组织等功能，可以用它来解决生物医学信号分析处理中常规法难以解决或无法解决的问题。 神经网络在生物医学信号检测与处理中的应用主要集中在对脑电信号的分析，听觉诱发电位信号的提取、肌电和胃肠电等信号的识别，心电信号的压缩，医学图像的识别和处理等。
3.2.2 医学专家系统
传统的专家系统，是把专家的经验和知识以规则的形式存储在计算机中，建立知识库，用逻辑推理的方式进行医疗诊断。 但是在实际应用中，随着数据库规模的增大，将导致知识“爆炸”，在知识获取途径中也存在“瓶颈”问题，致使工作效率很低。 以非线性并行处理为基础的神经网络为专家系统的研究指明了新的发展方向， 解决了专家系统的以上问题，并提高了知识的推理、自组织、自学习能力，从而神经网络在医学专家系统中得到广泛的应用和发展。
在麻醉与危重医学等相关领域的研究中，涉及到多生理变量的分析与预测，在临床数据中存在着一些尚未发现或无确切证据的关系与现象，信号的处理，干扰信号的自动区分检测，各种临床状况的预测等，都可以应用到人工神经网络技术。
3.3 人工神经网络在经济领域的应用
3.3.1 市场价格预测
对商品价格变动的分析，可归结为对影响市场供求关系的诸多因素的综合分析。 传统的统计经济学方法因其固有的局限性，难以对价格变动做出科学的预测，而人工神经网络容易处理不完整的、 模糊不确定或规律性不明显的数据，所以用人工神经网络进行价格预测是有着传统方法无法相比的优势。 从市场价格的确定机制出发，依据影响商品价格的家庭户数、人均可支配收入、贷款利率、城市化水平等复杂、多变的因素，建立较为准确可靠的模型。 该模型可以对商品价格的变动趋势进行科学预测，并得到准确客观的评价结果。
3.3.2 风险评估
风险是指在从事某项特定活动的过程中，因其存在的不确定性而产生的经济或财务的损失、自然破坏或损伤的可能性[11]。 防范风险的最佳办法就是事先对风险做出科学的预测和评估。 应用人工神经网络的预测思想是根据具体现实的风险来源， 构造出适合实际情况的信用风险模型的结构和算法，得到风险评价系数，然后确定实际问题的解决方案。 利用该模型进行实证分析能够弥补主观评估的不足，可以取得满意效果。
3.4 人工神经网络在控制领域中的应用
人工神经网络由于其独特的模型结构和固有的非线性模拟能力，以及高度的自适应和容错特性等突出特征，在控制系统中获得了广泛的应用。 其在各类控制器框架结构的基础上，加入了非线性自适应学习机制，从而使控制器具有更好的性能。 基本的控制结构有监督控制、直接逆模控制、模型参考控制、内模控制、预测控制、最优决策控制等。
3.5 人工神经网络在交通领域的应用
今年来人们对神经网络在交通运输系统中的应用开始了深入的研究。 交通运输问题是高度非线性的，可获得的数据通常是大量的、复杂的，用神经网络处理相关问题有它巨大的优越性。 应用范围涉及到汽车驾驶员行为的模拟、参数估计、路面维护、车辆检测与分类、交通模式分析、货物运营管理、交通流量预测、运输策略与经济、交通环保、空中运输、船舶的自动导航及船只的辨认、地铁运营及交通控制等领域并已经取得了很好的效果。
3.6 人工神经网络在心理学领域的应用
从神经网络模型的形成开始，它就与心理学就有着密不可分的联系。 神经网络抽象于神经元的信息处理功能，神经网络的训练则反映了感觉、记忆、学习等认知过程。 人们通过不断地研究， 变化着人工神经网络的结构模型和学习规则，从不同角度探讨着神经网络的认知功能，为其在心理学的研究中奠定了坚实的基础。 近年来，人工神经网络模型已经成为探讨社会认知、记忆、学习等高级心理过程机制的不可或缺的工具。 人工神经网络模型还可以对脑损伤病人的认知缺陷进行研究，对传统的认知定位机制提出了挑战。
虽然人工神经网络已经取得了一定的进步，但是还存在许多缺陷，例如：应用的面不够宽阔、结果不够精确；现有模型算法的训练速度不够高；算法的集成度不够高；同时我们希望在理论上寻找新的突破点， 建立新的通用模型和算法。需进一步对生物神经元系统进行研究，不断丰富人们对人脑神经的认识。
参考文献：
[1] 武妍，王守觉.一种通过反馈提高神经网络学习性能的新算法[J].计算机研究与发展，2004，41（9）: 1488-1492.
[2] 韩立群. 人工神经网络[M]. 北京:北京邮电大学出版社，2006.
[3] Jenkins B K，Tanguay A R. Handbook of Neural Computing and Neural Networks[M]. Boston: MIT Press，1995.
[4] 王小平，曹立明.遗传算法—理论、应用与软件实现.西安交通大学出版社，2002.
[5] 罗忠，谢永斌，朱重光. CMAC学习过程收敛性研究[J]. 自动化学报，1997，23（4）:455-461.
[6] Setiono R，Leow W K.FERNN: An algorithm for fast extraction of rules from neural networks[J]. Applied Intelligence，2000， 12（1-2）: 15-25.
[7] 何国光，朱萍，曹志彤，等. 混沌神经网络的Lyapunov指数与混沌区域[J]. 浙江大学学报，2004，31