BP神经网络学习问题的分析研究.pdf

摘要 机器学习的任务是设计某种方法和模型，通过对已知数据的学习，找到数据间内在的 相互依赖关系，从而对未知数据进行预测和判断。人工神经网络是重要的机器学习方法之 一，其中 BP 神经网络是应用最广泛的神经网络模型之一，本文以 BP 神经网络为研究对象， 提出了一种新的学习率自适应算法，并且对其学习问题进行分析研究，把神经网络的目标 函数作为研究重点。 BP 算法实质上是通过梯度下降法反复迭代得到神经网络权值的最终解，而神经网络权 值的解存在某一解的区域，如果训练样本的误差很大，说明神经网络权值的最终解通过梯 度下降法的迭代并没有达到解的区域，此时出现欠学习现象；如果训练样本的误差很小， 神经网络权值的解到达了解区，但是处于解区中央部分的权向量更可靠些，否则会出现过 学习现象。神经网络的学习能力与推广能力之间有很大的关系，神经网络模型的复杂度对 神经网络学习能力的影响可以从偏差与方置的观点进行解释，而 BP 神经网络权值解的过 程即神经网络的学习过程还与权值的初始值、样本质量、样本数量、误差函数、学习步长 这些因素有关，对于影响学习能力各个因素耦合关系的定量描述，国内外还尚未出现，本 文提出的观点是从神经网络解的