基于样本抽样和权重调整的SWA-Adaboost算法.pdfVIP

第 40卷 第 9期 计 算 机 工 程 2014年 9月 Vo1．40 NO．9 ComputerEngineering September2014 · 人工智能及识别技术 · 文章编号：looo09-0248-04 文献标识码：A 中图分类号：TP18 基于样本抽样和权重调整的SWA—Adaboost算法 高敬阳，赵 彦 (北京化工大学信息科学与技术学院，北京 100029) 摘 要：根据分类算法是依据样本区分度进行分类的原理，提出增加样本属性以提高样本区分度的方法，在样本预 处理阶段对所有样本增加一个属性值 d…以加强样本之间的区分度 。针对原始 Adaboost算法在抽样阶段 由于抽 样不均而导致对某些类训练不足 的问题 ，采用均衡抽样方法 ，保证在抽样阶段所抽取 的不 同类样本 的数量 比例不 变 。针对原始算法样本权重增长过快的问题 ，给出新的权重调整策略，引入样本错分计数量 count(n)，有效地抑制 样本权重增长速度 。给出一种改进的Adaboost算法，即SWAA·daboost算法 ，并采用美国加州大学机器学习UCI 数据库 中6种数据集 的数据对改进算法与原始算法进行实验对 比，结果证 明，改进算法 SWA—Adaboost在泛化性能 上优于Adaboost算法，泛化误差平均降低9．54％。 关键词 ：样本预处理 ；均衡抽样 ；权重调整 ；泛化性能；类中心最小距离 ；样本区分度 SWA—AdaboostAlgorithm BasedonSamplingandWeightAdjustment GAO Jing—yang，ZHAO Yan (CollegeofInformationScienceandTechnology，BeijingUniversityofChemicalTechnology，Beijing100029，China) 【Abstract】Becausetheclassificationalgorithm basedonthedifferencesamongsamples，anew methodisproposed which addsa new property value d 。 into each sample in orderto increase the differences．Besides，according to the situation thatsamplesbelonging to differentclassesare sampledunevenly in the samplingphase，anew method called even sampling isproposed tokeep theproportion ofdifference classesinvariant．Forthepurposeofinhibition ofthe incrementspeedofmisclassificationsamples，anewmethodisproposedwhichbringsinavariablecount(n)torecordthe timesofmisclassification．Intheword．animprovedalgorithm calledSamplingequilibrium ＆WeightadjustmentAdd attributeAdaboost(SWA-Adaboost)isproposed．Using the6 datasetsbelonging tomachine learning databaseof University ofCalifornia in USA ，the paperrunsexperimentsto compare the originalAdaboostwith SW A-Adaboost． Experimentalresultsshow thatSW A—Adaboosthasbettergeneralization performanceth