支持向量机参数选择算法.PDFVIP

第23卷 第2期 模式识别与人工智能 VoI．23 No．2 2010年4月 PR AI Apr 2010 基于核相似性差异最大化的 支持向量机参数选择算法 唐耀华 郭为民 高静怀 (河南电力试验研究院热工研究所 郑州 450052) (西安交通大学 电子与信息工程学院 西安 710049) 摘 要 针对支持向量机(SVM)参数选择问题，通过分析 SVM近似网络模型及分类原理 ，提出一种基于核相似性 差异最大化的高斯核参数快速选择算法 (MSD)．同时，将 MSD算法与基于交叉验证的参数搜索算法相结合，构成 一 种复合 SVM参数选择算法 (MSD—GS)，实现核参数与正则化参数的快速优选．UCI数据的仿真实验表明该算法具 有参数选择准确、简便快速、无需数据先验知识等优点，参数选择效果甚至优于遍历式指数网格搜索算法．优选出 的参数组合能够使SVM具有较高的泛化性能． 关键词 参数选择，高斯核函数，支持向量机(SVM)，相似性度量 中图法分类号 TP391 SVM ParameterSelectionAlgorithm BasedonM aximum KernelSimilarityDiversity TANG Yao—Hua ，GUOWei—Min ，GAO Jing．Huai (ThermalPowerInstitute，HenanElectricPowerResearchInstitute，Zhengzhou450052) (SchoolofElectronicandInformationEngineering，XihnJiaotongUniversity，Xihn710049) ABSTRACT Aimingatsuppo~vectormachine(SVM)parameterselectionproblem，anovelGaussiankernel parameterrapid selection algorithm isproposed on thebasisofkernelsimilarity diversitymaximum (MSD)byanalyzingtheequivalentnetworkmodelandtheclassificationprincipleofSVM．Inaddition， MSD iscombinedwithparametersearch algorithm basedon crossvalidation，andthusitisacomposite parameterselectionalgorithm (MSD—GS)totherealizerapidandoptimalselectionofkernelparameter andregularizationparameter．Simulationexperimentresultsondatasetsfrom UCIshow thatMSD—GShas themeritsof simpleness，celerity and accurate parameter selection with no need ofadding prior knowledge．Theparameterselectionresultisbetterthanthetraversingexponentialgridsearchalgorithm． TheselectedcoupleofSVM parameterscanmakeSVM gethighgeneralizationperformance． KeyWords ParameterSelection，Gaussia