基于SA和Bootstrap的LS—SVM参数优选及应用.pdfVIP

维普资讯 基于SA和Bootstrap的LS—SVM参数 优选及应用 赵春 秀’，周辉仁 ，刘春 霞 f1．天津大学 管理学院，天津 300072；2．济南热电有限责任公司，济南 250002) 摘 要 ：文章针对最小二乘支持 向量机 的特点，通过Bootstrap建立适当的性能指标 ，用模拟退火 算法fsA1优化最小二乘支持 向量机 的有关参数 ，并在非线性经济系统中应用。用最小二乘支持 向量 机对非线性经济系统进行预测的结果与神经网络预测 的结果 比较证 明，该模型的预测精确度是令人 满意的 ．文 中提 出的方法是可行的 。 关键词 ：最小二乘支持 向量机 ；Bootstrap；模拟退火算法 ；参数优化 中图分类号 ：TPI8i 文献标识码 ：A 文章编号 ：1002-6487(2008)15-0025—04 fLeastSquaresSuppo~VectorMachines，LS—SVM1 ，这种方 。 弓l言 法采用最小二乘线性系统作为损失函数，求解过程变成了解 一 组等式方程 ，求解速度相对加快，并应用到模式识别和非 Vapnik在 1995年提出一种新型具有完备 的统计学 习理 线性 函数逼近 中，取得 了较好的效果。 论基础和 出色的学习性能的方法——支持 向向量机(Suppon SVM模型参数的选择是一个 尚待解决的公开问题 ，常用 VectorMachines1．已成为机器学习界的研究热点，并在很多 的留一法参数选择方法 ，计算量非常庞大日。文献 6【】针对 LS— 领域都得到了成功的应用㈣。用传统的支持向量机训练样本 SVM用交叉验证 的方法进行核参数选择后对软测量建模 ；文 变为求解 凸二次规划 问题 ，这个二次规划具有全局和唯一 献 7『1提出了一种基于三步搜索技术 的参数选择方法 ；文献 8【] 解 近年 ，SuyKensJ．A．K 提 出最小二乘支持 向量机方法 用网格搜索对核参数选择后对非线性系统建模；文献f9】提出 基金项 目：天津市科技发展战略研究计划项 目(07ZLZLZT02300) 回归模型得到的预测情况如表 7 验 ，对具有多重共线性的8个变量进行了共线性诊断及处 由表 6可见，利用偏最小二乘法得到的Logistic模型的 理．运用两种方法分别从参数模型的改进和判别模型两个角 错判数为 10次，错判率为 18．5％，而普通模型的错判率则高 度对普通 Logistic回归模型进行改进。从结果可 以看 出．两种 达 29．62％，而且前者对于实际等级 1(危险因素)的错判次数 方法都取得 了较为理想的效果。 5次小于后者的错判次数 9次 ，更有实际意义 ，因此偏最小 二乘法能改进普通 Logistic模型多重共线性 问题 ，并能取得 参考文献 ： 良好的预测效果 【1]裘炯 良，郑剑宁，张扬．主成分改进 的Logistic回归模型方法在流行 3．5 讨论 病学分析 中的应用J【]，中国热带医学，2005，5(2)． 目前，对线性 回归中出现的多重共线性问题 的诊断和处 2【]Y-济川，郭志刚，Logistic回归模型一方法与应用 M【]．北京：高等教育