基于核相似性差异最大化的支持向量机参数选择算法.pdfVIP

第 23 卷第 2 期 2010 年 4 月 模式识别与人工智能 PR AI 基于核相似性差异最大化的 支持向量机参数选择算法* 唐耀华1 郭为民1 高静怀2 I (河南电力试验研究院热工研究所郑州 45∞52) 2( 西安交通大学电子与信息工程学院西安 71ω49) Vol. 23 No.2 Apr 2010 摘 要针对支持向量饥(SVM)参数选择问题，通过分析 SVM 近似网络模型及分类原理，提出一种基于核相似性 差异最大化的高斯核参数快速选择算法( MSD). 同时，将 MSD 算法与基于交叉验证的参数搜索算法相结合，构成 一种复合 SVM 参数选择算法(MSD-GS) ，实现核参数与正则化参数的快速优选. UCI 数据的仿真实验表明该算法具 有参数选择准确、简便快速、无需数据先验知识等优点，参数选择效果甚至优于遍历式指数网格搜索算法.优选出 的参数组合能够使 SVM 具有较高的泛化性能. 关键词 参数选择，高斯核函数，支持向量机(SVM) ，相似性度量 中图法分类号 TP 391 SVM Parameter Selection Algorithm ?ased on Maximum Kernel Similarity Diversity TANG Yao-Hua 1 , GUO Wei-Min 1 , GAO Jing-Huai 2 I (Thermal Power lnstit脚 ， Henan Electric Power Research Instit脚 ， Zhengzhou 45∞52) 2 (School 0/ Electronic and Ir价rmation Engineering , Xián Jiaoωng University , Xián 71∞49) ABSTRACT Aiming at support vector machine (SVM) parameter selection problem , a novel Gaussian kemel parameter rapid selection algorithm is proposed on the basis of kemel similarity diversity maximum ( MSD) by analyzing the equivalent network model and the classification principle of SVM. In addition , MSD is combined with parameter search algorithm based on cross validation , and thus it is a composite parameter selection algorithm (MSD-GS) to the realize rapid and optimal selection of kemel parameter and regularization parameter. Simulation experiment results on data sets from UCI show 由at MSD-GS has the merits of simpleness , celerity and accurate parameter selection wi出 no need of adding prior knowledge. 响le parameter selection result is beUer than the traversing exponential grid search algorithm. 咀le selected couple of SVM parameters can make SVM get high generalization performance. Key Words Parameter Selection , Gaussian Kemel Function , Support Vector Machine (SVM) , Similarity Measurement *国家 863 计划资助项目 (No.2(脱AA09A102-11 ) 收稿日期 :2α)9 -01-05;修 lclR 期 :2(盼 -06 -26 作者简介 唐耀华，男， 1977 年生，博士，主要研究方向为模式识别、机器学习. E-mail: tyhl0l0 1O@163.com. 郭为民，男， 1971 年宅，高级工程师，主要研究方向为自动控制系统.高静怀，男，19ω 年生，教授，博士生导师，主要研究