小规模数据集的神经网络集成算法研究.pdfVIP

ISSN 计算机研究与发展 1000—1239／CN11一1777／TP of Researchand Journal Development Computer 小规模数据集的神经网络集成算法研究 李 凯1 黄厚宽2 1(河北大学数学与计算机学院保定071002) 2(北京交通大学计算机与信息技术学院计算智能研究所北京100044) (1ikai@mail．hbu．edu．cn) ofaNeuralNetworkEnsemble forSmallDataSets Study Algorithm LiKailand Houkuan2 Huang 1(^00z 0，Ma￡^啪n￡i∞口nd＆m加舸曲，z卯，H幻“mi御百勿，勘以i增071002) 2(hs疵“把0，C。例“t口￡io咒以J，z￡以妇它咒卯，＆^00z0，cDm加t已r删d 100044) AbstractEnsemblehasbecomeahot inmachine Itdramaticallythe learning topic learning． improVes a classifier．Inthis neuralnetworkensembleforsmaUdatasetsis generalizationperformance。f paper， an network ensemble studiedand toneural approach ensemble(Nb优Z—NNE)ispresented．Forincreasing diversedatasetis as setinordertocreatediVerseneuralnetwork diversity，a generatedparttraining combinationalmethodsarestudiedfor results claSSifiers．Moreover，different No伽Z—N卜隰．Experimental showthatNo伽Z—NNEforboththerelative votemethodandthe combinationalmethod majority Bayes achieves higherpredictiveaccuracy． wordsneuralnetwork data ensemble；smaU Key set；diversity；generalization 摘要研究了小样本数据集的神经网络分类器集成，提出了适合于小样本数据集的神经网络分类器集 成方法No伽z NNE，通过生成差异数据提高神经网络集成中个体的差异性，从而提高集成学习的泛化 性能；最后应用不同的融合技术针对uCI标准数据集进行了实验研究．结果表明，在集成算法Nb钟z— NNE中，使用相对多数投票与贝叶斯融合方法的性能优于行为知识空间融合方法． 关键词神经网络集成；小规模数据集；差异性；泛化 中图法分类号TPl8 习方法，已经成功应用于许多领域，但由于神经网络 1 引 言 是一种不稳定的学习方法(即当训练数据集有较小