基于最小二乘支持向量机技术的偏向性分类及参数寻优方法 .pdfVIP

(19)中华人民共和国国家知识产权局

(12)发明专利说明书

(10)申请公布号CN103324939A

(43)申请公布日2013.09.25

(21)申请号CN201310084937.7

(22)申请日2013.03.15

(71)申请人江南大学;无锡信捷电气股份有限公司

地址214122江苏省无锡市蠡湖大道1800号江南大学

(72)发明人白瑞林张振尧吉峰

(74)专利代理机构

代理人

(51)Int.CI

G06K9/62

权利要求说明书说明书幅图

(54)发明名称

基于最小二乘支持向量机技术的偏

向性分类及参数寻优方法

(57)摘要

本发明提供了一种基于最小二乘支

持向量机技术的偏向性分类器和参数寻优

方法，采用最小二乘支持向量机作为分类

器推广能力好且适用于实时性要求较高的

场合；改进了虚拟少数类过采样算法，去

除了孤立样本的影响，突出边界样本的重

要性，使得分类具有一定的偏向性，即瑕

疵产品被误分为合格产品的概率降低；在

最小二乘支持向量机参数寻优方面，先采

用耦合模拟退火算法进行参数初步寻优，

再此基础上使用网格算法进行精细搜索，

不仅使得在训练最小二乘支持向量机模型

时参数寻优时间缩短，而且分类准确度更

高，提高了分类性能。

法律状态

法律状态公告日法律状态信息法律状态

权利要求说明书

1.一种基于最小二乘支持向量机技术的偏向性分类及参数寻优方法，其特

征是，实现分类过程中降低对瑕疵的误分率和对最小二乘支持向量机核参数

及惩罚参数的优化；该分类器基于最小二乘支持向量机技术；采

用改进的虚拟少数类过采用算法，先使用K近邻算法(K取5)去

除孤立样本点，再对边界样本点进行过采样，产生适合于训练

的样本数据；使用耦合模拟退火算法，进行两次退火，对最小二

乘支持向量机核函数参数sig和惩罚参数gam进行初步寻优，在初步

寻优所得参数组合的邻域，采用网格算法进行精细搜索；对比两次搜索

得到的参数，确定最终的最优参数组合；整个算法包括以下几个模块：

去除孤立样本模块，避免在过采样时受到噪声点影响，产生新的噪声点；

虚拟少数类样本过采样模块，利用改进的虚拟少数类过采样(SMOTE)算法

找出瑕疵产品的边界样本，在边界样本和合格产品之间进行过采样，人工合

成新的瑕疵样本；

模拟退火算法模块，利用耦合模拟退火(CSA)算法对最小二乘支持向量机核

参数和惩罚参数进行初步寻优，获得初步参数值；

网格算法模块，在耦合模拟退火算法得到的初步解邻域使用网格法进一步

寻找最优解；

参数对比模块，比较耦合模拟退火算法与网格搜索算法得到的两组参数所

对应的误分率，取较低误分率对应的那组参数作为最终的最优参数组合。

2.根据权利要求1所述基于最小二乘支持向量机技术的偏向性分类及参数

寻优方法，其特征是：所述去除孤立样本模块，输入为包含有合格样本和瑕

疵样本的原训练数据，采用K近邻算法(K取5)计算每个样本

xsubi/sub的5个最近邻，如果5个最近邻的类别均与

xsubi/sub的类别不同，则删去xsubi/sub，经过此模块处理，去除

了原始训练样本数据中的孤立样本，并将结果输送到虚拟少数类样