基于高斯核的SVM的参数选择①.PDF

计 算 机 系 统 应 用 2014 年 第 23 卷 第 7 期 ① 基于高斯核的 SVM 的参数选择 王行甫, 陈家伟 ( 中国科学技术大学 计算机学院, 合肥 230027) 摘 要 : 基于高斯核的支持向量机应用很广泛, 高斯核参数s 的选择对分类器性能影响很大, 本文提出了从核 函数性质和几何距离角度来选择参数s, 并且利用高斯函数的麦克劳林展开解决了参数s的优化选择问题. 实验 结果表明, 该方法能较快地确定核函数参数s, 且 SVM 分类效果较好, 解决了高斯核参数s在实际应用中不易确 定的问题. 关键词: 支持向量机; 高斯核; 参数选择; 几何距离; 麦克劳林展开 Parameter Selection of SVM with Gaussian kernel WANG Xing-Fu, CHEN Jia-Wei (School of Computer Science, University of Science Technology of China, Hefei 230027, China) Abstract: Support vector machine based on Gaussian kernel has been used in many areas. The parameter s of the Gaussian kernel has great impact on the performance of the classifier. This paper proposes an approach to choose an optimal parameter s based on the properties of the kernel function and the angle of geometric distance. What is more, we have solved the problem of the optimal option of the parameter s by means of the McLaughlin expansion of the Gaussian kernel function. The experiment results indicate that this method can get parameter s very quickly and can achieve high efficiency. Thus the difficulty of the estimation of the parameter s can be solved by our method. Key words: support vector machine; Gaussian kernel; parameter selection; geometric distance; McLaughlin expansion 1 引言 空间的结构由核函数决定, 它设计的好坏直接影响到 支持向量机(SVM)是90 年代中期发展起来的基于 分类效果. SVM 通过引入了核函数, 有效地解决了分 统计学习理论的一种机器学习方法, 通过寻求结构化 类中的线性不可分问题. SVM 的理论研究主要以核函 风险最小来提高学习机泛化能力, 实现经验风险和置 数方面的研究为主, 包括核函数的构造和核函数的选 信范围的最小化, 从而达到在统计样本量较少的情况 择. 由于核函数构造的复杂性, 目前对核函数的研究 下, 亦能获得良好统计规律的目的. 通俗来讲, 它是 取得实质性进展的还是在核函数的选择上. 一种二类分类模型,