基于GA、BP神经网络和多元回归的集成算法研究.pdfVIP

第 30卷第 2期 计 算 技 术 与 自 动 化 VoI．3O。NO．2 2011年 6月 ComputingTechnologyandAutomation Jun．2011 文章编号：1003—6199(2011)02--0089—07 基 于 GA、BP神经 网络和 多元 回归 的集成算 法研 究 陈 诚，廖桂平，李锦卫，史晓慧 (湖南农业大学 农业信息研究所，湖南长沙 430000) 摘 要：遗传算法、BP神经网络和多元回归是 目前应用比较广泛的数据挖掘算法，它们各俱优点，同时 也存在诸多无法避免的缺陷。该文在前三者的基础上，提 出一种BP网络与多元回归模型融合的杂舍BP网 络，并采用遗传算法优化杂合BP网络的初始权值，有效地避免几种方法在单独使用时存在的缺陷。验证 实 验结果表明：新方法所建立的模型在收敛速度、精度和泛化能力上都明显优于GA、BP神经网络和多元回 归．并且较当今比较热门的ELM、SVRKM和 SVM也有较显著的改进。 关键词：BP神经网络；多元回归；遗传算法；算法集成 中图分类号：TP183 文献标识码 ：A IntegrationAlgorithm BasedonGeneticAlgorithm ， BP NeuralNetworkandMultipleRegressions CHEN Cheng，LIAO Gui—ing，LIJin-wei，SHIXiao—hui (AgriculturalInformationInstituteofHunanAgriculturalUniversity，Changsha 430000，China) Abstract：GeneticAIgorithm，BPneuralnetworkandmultipleregressionareusedwidelyindataminingalgorithms， eachofthem havetheirbenefits．Simultaneously，theyhavesomeinevitableflaws．Onthebasisofpreviousthree，Imade someimprovementsinthestructureofthem．First，IproposeahybridBPnetworkbasedontheintegrationofBPNetwork andmultipleregressionmodels．ThenIusedthehybridgeneticalgorithm tOoptimizetheinitialweightsofhybridBP net— WOrk．Inthatway，Ieffectivelyavoidtheinevitableflawswhentheyalone．Validationresultsshow，inconvergencespeed accuracyandgeneralizationability，themodelofnew methodsisbetterthanGeneticAlgorithm，BPneuralnetworkandmul- tipleregressions．Inaddition，themodelofnew methodshassignificantimprovementscomparedwithELM 。SVRKM and SVM ． Keywords：BP neuralnetwork；multipleregression；geneticalgorithms；algorithm integration 地挖掘 出大量数据中隐含的内在规律 ，提炼 出有用 1 引 言 的信息，从而为决策提供可靠的依据。 遗传算法、BP神经网络和