- 1、本文档共3页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
基于BP与SVR的非线性回归之比较.pdf
2011年5月 安庆师范学院学报(自然科学版) May.2011
第 17卷第2期 JournalofAnqingTeachersCollege(NaturalScienceEdition) VO1.17NO.2
基于 BP与 SVR的非线性 回归之 比较
丁 蕾,朱德权
(安庆师范学院物理与电气37_程学院,安徽 安庆 246133)
摘 要:BP神经网络和用于回归的支持向量机(SVR)在非线性回归中表现出很好的学习和预测能力。本文对这两
种方法的算法思想进行分析比较,并通过仿真实例对它们的回归性能加以比较,理论和实验结果表明SVR方法在稳定性
和泛化性上优于 BP网络方法 。
关键词:回归;非线性;SVR;BP;仿真
中图分类号:TP181 文献标识码 :A 文章编号:1007—4260(2011)02—0094—03
0 引 言
在工程设计、数据处理和科学研究中,经常需要利用测量数据来寻求物理量之间近似的函数解析
式,对回归函数进行统计推断,这就是回归分析所研究的主要问题…。最小二乘法在回归拟合的日常
应用中一直 占主导地位,但许多应用实践 表明,最小二乘法对线性回归有效,而在非线性情况下它
的回归估计并不理想。
人工神经网络(ArtificialNeuralNetwork,ANN)和支持向量机 (Suppo~VectorMachine,SVM)是 目
前广泛使用的机器学习方法,其中的BP神经网络和用于回归的支持向量机 (SupportVectorMachinefor
Regression,SVR)在非线性回归中表现出很好的学习和预测能力。下面具体分析比较一下这两种方法
的理论基础和算法思想,并通过仿真实例对它们的回归性能加以比较。
1 BP神经网络
人工神经网络是由人工神经元互联而成
的网络,其中应用最为广泛的是基于误差反
向传播 (Error—Backpropagation)算法的多层
输 输
前 向神经网络,即BP神经网络。BP神经网 A 出
络一般由输入层、隐层和输 出层构成,其中隐 样 憾
本|
层神经元通常采用非线性函数,起非线性映
射作用,而输出层神经元则采用线性传递函
数。当隐层神经元数 目足够多时,BP网络能
图1 BP神经网络模型
以任意精度逼近非线性函数 。其模型如
图 1所示。
2 支持向量机
支持向量机是Vapnik及其研究小组于20世纪90年代初期在现代统计学习理论的基础上提出来
的一类新型机器学习方法 。针对非线性分类或回归的问题,支持向量机通过引用适当的核函数将输
入样本空间映射到高维特征空问,然后在这个新空间中构建回归估计函数,其中 ( ,)=
收稿 日期 :2011—03—04
项 目基金:安徽省教育厅 自然科学重点项 目(KJ2010A232)资助。
作者简介:丁蕾,女,安徽怀宁人,安庆师范学院物理 电气工程学院讲师,硕士,主要从事人工智能理论、信号处理等研究。
第2期 丁蕾 ,朱德权:基于 BP与SVR的非线性回归之比较 ‘95 ·
咖()·()为某一非线性函数。其模型如图2所示,这从形式上看来类似BP网络,输出是中间节点的
线性组合,每个中间节点对应一个支持向量。这就使得在高维属性空间采用线性算法进行非线性回归成
为可能。
3 BP网络与 SVR方法
下面从几个角度对 BP神经网络和用于回归
的支持向量机加以比较 :
首先,BP算法的
文档评论(0)