第2章人工神经网络概论.pptVIP

（2）常用改进方法 1）自适应学习速率法 学习率增量因子 学习率减量因子 2）附加动量法 附加动量法是在梯度下降法的基础上引入动量系数。 网络学习的过程就是修改权值的过程，该算法是以前一次的修正结果来影响本次修正量，当前一次的修正量过大时，式中第二项的符号将与前一次修正量的符号相反，从而使本次的修正量减小，起到减小振荡的作用；当前一次的修正量过小时，式中第二项的符号将与前一次修正量的符号相同，从而使本次的修正量增大，起到加速修正的作用。可见，附加动量法总是力图使同一梯度方向上的修正量增加。这种方法加速了收敛速度，并在一定程度上减小了陷入局部极小点的概率。 3）自适应学习速率动量BP法 该算法是将自适应学习速率法和附加动量法相结合，在网络训练过程中，不但使学习速率根据局部误差曲面做出不断调整，而且利用动量项使同一梯度方向上权值的修正量增加，起到加速修正的作用。其学习速率和附加动量的调节公式分别为: 2.人工神经网络 Artificial Neural Networks 2.1 人工神经网络的提出 人工神经网络（ANN），是对人类大脑系统的一阶特性的一种描述。简单地讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。 人工智能：研究如何使类似计算机这样的设备去模拟人类认识客观事物和运用知识解决问题的能力。 2.2 人工神经网络的特点