BP神经网络的优缺点.docxVIP

BP神经网络的优缺点介绍 人工神经网络（ArtificialNeuralNetwork）又称连结机模型，是在现代神经学、生 物学、心理学等学科研究的基础上产生的，它反应了生物神经系统办理外界事物的基本过程， 是在模拟人脑神经组织的基础上发展起来的计算系统，是由大量办理单元经过宽泛互联而组成的网络体系，它拥有生物神经系统的基本特点，在一定程度上反应了人脑功能的若干反应，是对生物系统的某种模拟，拥有大规模并行、散布式办理、自组织、自学习等优点，被宽泛应用于语音剖析、图像辨别、数字水印、计算机视觉等好多领域，取得了很多突出的成就。 最近由于人工神经网络的迅速发展，它已经成为模式识其他强有力的工具。神经网络的运用展开了新的领域，解决其余模式辨别不能解决的问题，其分类功能特别适合于模式辨别与分 类的应用。多层前向BP网络是当前应用最多的一种神经网络形式,它具备神经网络的普遍 优点，但它也不是特别完美的,为了更好的理解应用神经网络进行问题求解,这里对它的优缺点展开一些议论。 首先BP神经网络拥有以下优点： 非线性映射能力：BP神经网络实质上实现了一个从输入到输出的映射功能，数学理论证 明三层的神经网络就可以以随意精度逼近任何非线性连续函数。这使得其特别适合于求解内 部体制复杂的问题，即BP神经网络拥有较强的非线性映射能力。 自学习和自适应能力：BP神经网络在训练时，能够经过学习自动提取输出、输出数据间 的“合理规则”，并自适应的将学习内容记忆于网络的权值中。即BP神经网络拥有高度自学 习和自适应的能力。 泛化能力：所谓泛化能力是指在设计模式分类器时，即要考虑网络在保证对所需分类对象进行正确分类，还要关心网络在经过训练后，可否对未见过的模式或有噪声污染的模式，进行正确的分类。也即BP神经网络拥有将学习成就应用于新知识的能力。 容错能力：BP神经网络在其局部的或许部分的神经元受到损坏后对全局的训练结果不会 造成很大的影响，也就是说即便系统在受到局部损害时仍是能够正常工作的。即BP神经网 络拥有一定的容错能力。 基于BP神经网络的这些优点，国内外不少研究学者都对其进行了研究，并运用网络解 决了不少应用问题。可是随着应用范围的逐步扩大，  BP神经网络也暴露出了越来越多的缺 点和不足，比方： 1)局部极小化问题：从数学角度看，传统的  BP  神经网络为一种局部搜寻的优化方法，它 要解决的是一个复杂非线性化问题，网络的权值是经过沿局部改良的方向渐渐进行调整的， 这样会使算法陷入局部极值，权值收敛到局部极小点，进而致使网络训练失败。加上BP神 经网络对初始网络权重特别敏感，以不同的权重初始化网络，其往往会收敛于不同的局部极 小，这也是好多学者每次训练获得不同结果的根来源因。 BP神经网络算法的收敛速度慢：由于BP神经网络算法本质上为梯度下降法，它所要优 化的目标函数是特别复杂的，因此，必定会出现“锯齿形现象”，这使得BP算法低效；又 由于优化的目标函数很复杂，  它必定会在神经元输出靠近  0或  1的情况下，出现一些平展区， 在这些地区内，权值误差改变很小，使训练过程几乎停留；  BP  神经网络模型中，为了使网 络履行BP算法，不能使用传统的一维搜寻法求每次迭代的步长，而必须把步长的更新规则 预先赋予网络，这种方法也会惹起算法低效。以上各种，致使了BP神经网络算法收敛速度 慢的现象。 BP神经网络构造选择不一：BP神经网络构造的选择至今尚无一种统一而完整的理论指导，一般只能由经验选定。网络构造选择过大，训练中效率不高，可能出现过拟合现象，造成网络性能低，容错性下降，若选择过小，则又会造成网络可能不收敛。而网络的构造直接影响网络的逼近能力及推广性质。因此，应用中怎样选择合适的网络构造是一个重要的问题。 应用实例与网络规模的矛盾问题：BP神经网络难以解决应用问题的实例规模和网络规模间的矛盾问题，其波及到网络容量的可能性与可行性的关系问题，即学习复杂性问题。 BP神经网络预测能力和训练能力的矛盾问题：预测能力也称泛化能力或许推广能力，而训练能力也称逼近能力或许学习能力。一般情况下，训练能力差时，预测能力也差，并且一 定程度上，随着训练能力地提高，预测能力会获得提高。  但这种趋势不是固定的，  其有一个 极限，当达到此极限时，随着训练能力的提高，预测能力反而会下降，  也即出现所谓“过拟 合”现象。出现该现象的原因是网络学习了过多的样本细节致使，  学习出的模型已不能反应 样本内含的规律，所以怎样把握好学习的度，解决网络预测能力和训练能力间矛盾问题也是BP神经网络的重要研究内容。 6）BP神经网络样本依靠性问题：网络模型的逼近和推广能力与学习样本的典型性亲密相 关，而从问题中选用典型样本实例组成训练集是一个很困难的问题。