融合粗糙集与球形支持向量机的多分类识别.pdfVIP

第 32卷 第5期 河 南 科 技 大 学 学 报 ：自然 科 学 版 Vo1．32 NO．5 2011年 l0月 JournalofHenanUniversityofScienceandTechnology：NaturalScience Oct． 2011 文章编号：1672—6871(2011)05—0077—04 融合粗糙集与球形支持 向量机的多分类识别 高建来 ，运士伟 ，张永胜 (洛阳理工学院数理系，河南 洛阳471023) 摘要 ：构造 了融合粗糙集与球形支持向量机的多分类识别模型，提 出了基于相对距离的球形支持 向量机多分 类识别算法 。首先 ，通过粗糙集对样本集进行属性约简 ；然后 ，对约简后 的样本集运用球形支持 向量机进行训 练 ，对于未知样本 ，按照未知样本到各类球心相对距离 的大小进行分类 ，将未知样本 归入相对距离较小 的一类 中去；最后，仿真结果证明：该方法可以有效地消除冗余属性，降低支持向量机的样本输入维数，提高了泛化能 力。 关键词 ：粗糙集 ；球形支持 向量机 ；分类 ；模式识别 中图分类号 ：0235 文献标识码 ：A 0 前言 模式分类是一种模式识别技术 ，它利用 以计算机为中心的机器系统 ，根据决策理论来建立各模式类 别间的决策边界 ，运用一定 的分析算法认定未知样本的类别。近几十年来 ，模式识别技术在状态检测与 故障诊断、文字 、语音识别 、图像识别等很多方面取得 了成功的应用 ，推动了人工智能的发展 。 支持 向量机 由Vapnik提出 ，该方法采用结构风险原理来提高泛化能力 ，较好地解决 了小样本、非 线性、高维数 、局部极小等实际问题 ，因此成为 国际上机器学习领域新 的研究热点 。球形支持 向量 机多分类识别算法 相对于标准支持 向量机来说 ，更适用于样本数量 比较多的多分类识别 问题 ，并且 易于扩展到新的类别 。 由于支持向量机是一个二次规划问题 ，在训练和学习过程中，一旦输入样本 的维数过高 ，其训练复 杂度和过拟合程度会大大增加，因此，有必要需求一种降低训练复杂度和过拟合程度的方法，以提高其 有效性。粗糙集理论 是一种处理不精确 、不完整数据的全新数学工具 ，已经在机器学习、数据挖掘等 领域中得到了较为广泛的应用 ，其最大特点是对数据进行约简，获得数据的核心知识。因此 ，本文 将粗糙集与球形支持 向量机相结合 ，用于多分类识别问题。首先，通过粗糙集对数据进行预处理 ，对属 性进行约简 ，降低支持向量机的输入维数 ；其次，通过训练球形支持向量机，提出了基于相对距离的多分 类识别算法 ，根据相对距离的大小进行多分类识别 ；最后 ，通过仿真试验验证了该方法的有效性 。 1 基本理论 1．1 粗糙集理论 粗糙集理论 中的知识表达方式一般采用信息表的形式，它可以表示为四元有序组K=(U，A， ， 其 中， 是论域；A =CUD是属性集 ；V是属性的值域 ．，是一个信息函数 ：A— V， ∈U。 对于这样的信息系统 ，每个属性子集就定义 了论域上 的一个等价关系 ，即 VB A，定义 R ： xR6Yc~f,(b)= (b)，Vb∈B。 粗糙集理论给出了对知识的约简和求核的方法，从而提供 了从信息系统中分析多余属性的能力。 设K ：(U，A，V )是一个信息系统 ，记 由属性集 曰 所导出的等价关系为R 。V。∈A，如果 = R 则称属性 。是多余 的；如果在系统中没有多余属性 ，则称A是独立的。设B A，如果R =R 且 B中没有多余属性 ，则称子集 B A是A的约简 ，记为 red(B)；A的所有约简的交集称为 A的核 ，记为 基金项 目：河南省 自然科学基金项 目(072300410180)；河南省杰出青年基金项 目(104100510018) 作者简介 ：高建来 (1963一)，男 ，河南洛 阳人 ，副教授 ，硕士 ，主要从事计算数学研究． 收稿 日期 ：2010—07一O5 · 78 ·