毕业设计（论文）《基于BP的神经网络变量筛选》.docVIP

PAGE PAGE 1 论 文 题 目 基于BP的神经网络变量筛选 学 生 姓 名 x x x 所 在 学 院 信息工程学院 专业及学号 MZ13659 完 成 日 期 2013年12月27日 基于BP的神经网络变量筛选 摘 要 BP（Back Propagation）网络是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层（input）、隐层(hide layer)和输出层(output layer)。本文是用matlab来仿真一个基于BP的神经网络变量筛选的实例，这个例子无论是对于初学matlab还是对于神经网络的人来说，都是十分经典的。 关键词：BP神经网络，变量筛选，matlab仿真 目 录TOC \o 1-3 \h \z \u HYPERLINK 摘 要 1 HYPERLINK 目 录 2 ⒈ BP神经网络的发展历史 3304 1 ⒉ 19200 基本BP算法公式推导 2 ⒊ 13743 基本BP算法的缺陷 5 ⒋ 29042 BP算法的改进 6 ⒋1 附加动量法 29042 6 ⒋2 自适应学习速率 29042 7 ⒋3 动量-自适应学习速率调整算法 29042 7 ⒌ 28854 案例--基于BP的神经网络变量筛选 7 ⒌1 matlab程序实现 29042 8 ⒌2 matlab仿真结果 29042 11 ⒍ 20333 实验小结 12 1. BP神经网络的发展历史 人工神经网络早期的研究工作应追溯至上世纪40年代。下面以时间顺序，以著名的人物或某一方面突出的研究成果为线索，简要介绍人工神经网络的发展历史。 1943年，心理学家W·Mcculloch和数理逻辑学家W·Pitts在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。此模型沿用至今，并且直接影响着这一领域研究的进展。因而，他们两人可称为人工神经网络研究的先驱。 1945年冯·诺依曼领导的设计小组试制成功存储程序式电子计算机，标志着电子计算机时代的开始。1948年，他在研究工作中比较了人脑结构与存储程序式计算机的根本区别，提出了以简单神经元构成的再生自动机网络结构。但是，由于指令存储式计算机技术的发展非常迅速，迫使他放弃了神经网络研究的新途径，继续投身于指令存储式计算机技术的研究，并在此领域作出了巨大贡献。虽然，冯·诺依曼的名字是与普通计算机联系在一起的，但他也是人工神经网络研究的先驱之一。 50年代末，F·Rosenblatt设计制作了“感知机”，它是一种多层的神经网络。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。当时，世界上许多实验室仿效制作感知机，分别应用于文字识别、声音识别、声纳信号识别以及学习记忆问题的研究。然而，这次人工神经网络的研究高潮未能持续很久，许多人陆续放弃了这方面的研究工作，这是因为当时数字计算机的发展处于全盛时期，许多人误以为数字计算机可以解决人工智能、模式识别、专家系统等方面的一切问题，使感知机的工作得不到重视；其次，当时的电子技术工艺水平比较落后，主要的元件是电子管或晶体管，利用它们制作的神经网络体积庞大，价格昂贵，要制作在规模上与真实的神经网络相似是完全不可能的；另外，在1968年一本名为《感知机》的著作中指出线性感知机功能是有限的，它不能解决如异或这样的基本问题，而且多层网络还不能找到有效的计算方法，这些论点促使大批研究人员对于人工神经网络的前景失去信心。60年代末期，人工神经网络的研究进入了低潮。 另外，在60年代初期，Widrow提出了自适应线性元件网络，这是一种连续取值的线性加权求和阈值网络。后来，在此基础上发展了非线性多层自适应网络。当时，这些工作虽未标出神经网络的名称，而实际上就是一种人工神经网络模型。 2. 基本BP算法公式推导 基本BP算法包括两个方面：信号的前向传播和误差的反向传播。即计算实际输出时按从输入到输出的方向进行，而权值和阈值的修正从输出到输入的方向进行。 … … … … … … … 输出变量 输入变量 输入层 隐含层 输出层 图