- 1、本文档共15页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
基于BP的神经网络变量筛选
论 文 题 目 基于BP的神经网络变量筛选
学 生 姓 名 x x x
所 在 学 院 信息工程学院
专业及学号 MZ13659
完 成 日 期 2013年12月27日
基于BP的神经网络变量筛选
摘 要
BP(Back Propagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层(input)、隐层(hide layer)和输出层(output layer)。本文是用matlab来仿真一个基于BP的神经网络变量筛选的实例,这个例子无论是对于初学matlab还是对于神经网络的人来说,都是十分经典的。
关键词:BP神经网络,变量筛选,matlab仿真
目 录
摘 要 1
目 录 2
⒈ BP神经网络的发展历史 1
⒉ 基本BP算法公式推导 2
⒊基本BP算法的缺陷 5
⒋ BP算法的改进 6
⒋1 附加动量法 6
⒋2 自适应学习速率 7
⒋3 动量-自适应学习速率调整算法 7
⒌ 案例--基于BP的神经网络变量筛选 7
⒌1 matlab程序实现 8
⒌2 matlab仿真结果 11
⒍实验小结 12
1. BP神经网络的发展历史
人工神经网络早期的研究工作应追溯至上世纪40年代。下面以时间顺序,以著名的人物或某一方面突出的研究成果为线索,简要介绍人工神经网络的发展历史。
1943年,心理学家W·Mcculloch和数理逻辑学家W·Pitts在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。此模型沿用至今,并且直接影响着这一领域研究的进展。因而,他们两人可称为人工神经网络研究的先驱。
1945年冯·诺依曼领导的设计小组试制成功存储程序式电子计算机,标志着电子计算机时代的开始。1948年,他在研究工作中比较了人脑结构与存储程序式计算机的根本区别,提出了以简单神经元构成的再生自动机网络结构。但是,由于指令存储式计算机技术的发展非常迅速,迫使他放弃了神经网络研究的新途径,继续投身于指令存储式计算机技术的研究,并在此领域作出了巨大贡献。虽然,冯·诺依曼的名字是与普通计算机联系在一起的,但他也是人工神经网络研究的先驱之一。
50年代末,F·Rosenblatt设计制作了“感知机”,它是一种多层的神经网络。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。当时,世界上许多实验室仿效制作感知机,分别应用于文字识别、声音识别、声纳信号识别以及学习记忆问题的研究。然而,这次人工神经网络的研究高潮未能持续很久,许多人陆续放弃了这方面的研究工作,这是因为当时数字计算机的发展处于全盛时期,许多人误以为数字计算机可以解决人工智能、模式识别、专家系统等方面的一切问题,使感知机的工作得不到重视;其次,当时的电子技术工艺水平比较落后,主要的元件是电子管或晶体管,利用它们制作的神经网络体积庞大,价格昂贵,要制作在规模上与真实的神经网络相似是完全不可能的;另外,在1968年一本名为《感知机》的著作中指出线性感知机功能是有限的,它不能解决如异或这样的基本问题,而且多层网络还不能找到有效的计算方法,这些论点促使大批研究人员对于人工神经网络的前景失去信心。60年代末期,人工神经网络的研究进入了低潮。
另外,在60年代初期,Widrow提出了自适应线性元件网络,这是一种连续取值的线性加权求和阈值网络。后来,在此基础上发展了非线性多层自适应网络。当时,这些工作虽未标出神经网络的名称,而实际上就是一种人工神经网络模型。
2. 基本BP算法公式推导
基本BP算法包括两个方面:信号的前向传播和误差的反向传播。即计算实际输出时按从输入到输出的方向进行,而权值和阈值的修正从输出到输入的方向进行。
图2-1 BP网络结构
图中:表示输入层第个节点的输入,j=1,…,M;
表示隐含层第i个节点到输入层第j个节点之间的权值;
表示隐含层第i个节点的阈值;
表示隐含层的激励函数;
表示输出层第个节点到隐含层第i个节点之间的权值,i=1,…,q;
表示输出层第k个节点的阈值,k=1,…,L;
表示输出层的激励
您可能关注的文档
最近下载
- 专升本语文资料.docx VIP
- 西南15G701-2-混凝土结构轻质填充墙构造图集.pdf
- 《在祖国怀抱里课件》小学音乐冀少2011课标版三年级上课件.ppt
- 烹饪专业调研报告.pdf
- 城市轨道交通安全管理项目2城市轨道交通危险源辨识与安全标志.pptx VIP
- 铁工电〔2023〕54号 国铁集团关于印发《普速铁路工务安全规则》的通知.docx VIP
- 新人教版(部编)一年级语文上册《文语文园地六和大人一起读》优质课教案_20.pdf
- 燃气管道第三方施工管理安全技术规范.pdf
- 生活中的位置(课件)2024-2025-学年度苏教版(2024)数学一年级上册.pptx VIP
- 说课评价量表.doc VIP
文档评论(0)