支持向量回归中核函数和超参数选择方法综述.pdf

第 43卷 　第 3期 西 　南 　交 　通 　大 　学 　学 　报 Vol. 43　No. 3 2008年 6月 　　　　　　JOURNAL OF SOU THW EST J IAO TON G UN IV ER SITY　　　 　　　 Jun. 2008 　　文章编号 : (2008) 支持向量回归中核函数和超参数选择方法综述 肖　建 , 　于 　龙 , 　白裔峰 (西南交通大学电气工程学院 , 四川 成都 6 1003 1) ( ) 摘 　要 : 支持向量回归 SVR 模型结构对降低经验风险和减小置信范围十分重要. 为了系统深入地分析 SVR 模 型选择方法 ,将现有的典型的模型选择方法分为核的选择和超参数确定 ,并从不同的方面对其进行了综述和评 价. SVR 的精确性和推广能力很大程度上依赖于核函数及超参数. 提出了今后研究的方向. 关键词 : 支持向量回归 ;模型 ;核 ;超参数 中图分类号 : TP181　　文献标识码 : A Survey of the Selection of Kernels and Hyperparam eter s in Support Vector Regression X IA O J ian, 　YU L ong, 　BA I Yif eng ( School of E lectrical Eng. , Sou thwe st J iaotong U n iversity, Chengdu 6 1003 1, Ch ina) A b stract: The structu re of support vector regre ssion model p lays an importan t ro le in sim u ltaneou sly reducing both the emp irical risk s and confidence in tervals. To m ake a system atical analysis, the existing typ ical m ethod s for SVR model selection were cla ssified in to two m ajor categorie s: kernel selection and hyp erp aram eter determ ination. The se selection m ethod s were su rveyed and d iscu ssed from variou s a sp ects. The accu racy and generalization ab ility of SVR heavily dep end on kernel function and hyp erp aram eters. Fu tu re re search direction s were sugge sted. Key words: support vector regre ssion; model; kernel; hyp erp aram eter determ ination 　　根据统计学习理论 ,为了控制学习机器的推广能力 ,需要控制两个因素 :经验风险和置信范围. 在此基 [ 1 ] ( ) 础上 , V ap n ik 进一步提出了支持向量机 SVM ,利用有限样本的信息在模型的复杂性和学习能力之间 寻求