基于特征分类能力互补性的特征选择方法-计算机软件与理论专业论文.docxVIP

万方数据 万方数据 南开大学学位论文原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师指导下进行研究工作所 取得的研究成果。除文中已经注明引用的内容外，本学位论文的研究成果不包 含任何他人创作的、已公开发表或者没有公开发表的作品的内容。对本论文所 涉及的研究工作做出贡献的其他个人和集体，均已在文中以明确方式标明。本 学位论文原创性声明的法律责任由本人承担。 学位论文作者签名：张璐 2015 年 6 月 8 日 非公开学位论文标注说明 (本页表中填写内容须打印) 根据南开大学有关规定，非公开学位论文须经指导教师同意、作者本人申 请和相关部门批准方能标注。未经批准的均为公开学位论文，公开学位论文本 说明为空白。 论文题目 申请密级 □限制(≤2 年) □秘密(≤10 年) □机密(≤20 年) 保密期限 20 年月日至 20 年月日 审批表编号 批准日期 20 年月日 南开大学学位评定委员会办公室盖章(有效) 注：限制★2 年(可少于 2 年);秘密★10 年(可少于 10 年);机密★20 年(可少于 20 年) 中文摘要 中文摘要 中文摘要 特征选择，是在利用机器学习算法构建模型前，对原始数据的预处理过程， 是机器学习领域受到广泛关注的研究问题之一。对于高维数据的分析计算，一 方面，很容易陷入“维度灾难”的困境；另一方面，可能并非所有维度的数据 或概念都同样包含重要的预测信息。因而，特征选择算法作为数据的降维技术 显得尤为重要。总体来讲，特征选择算法中的核心问题包括计算：(1) 特征子集 与预测类别的相关性；(2) 特征间包含分类信息的冗余性；(3)平衡(1)和(2)二者 的权重比例。 在考虑特征与类别相关程度的评估时，往往忽略了特征对区分不同类别贡献 程度不均的问题，仅计算特征与整体类别的关系。本文针对该问题，提出了特 征分类能力的向量化表示，并利用特征对于区分不同类别能力的差异，选择“互 补”特征进入特征子集，从而优化特征选择过程，快速得到具有较优分类能力 的特征子集。并通过与流行的特征选择算法进行对比实验，证明了本文提出的 CFSCC 算法能够在选择较少的特征数目的情况下，仍然具有更优的分类效果。 对于特征子集分类能力的度量，多数算法通过特征间冗余性的计算，考虑所 选子集特征之间的相互影响；而在估算特征子集与类别的相关性时，隐含地假 设了特征的独立性，忽略了特征组合对于相关性计算的影响。然而，将子集中 单个特征与类别的相关度的平均值作为子集分类能力的度量，同时利用特征间 相似度近似估计特征冗余量，并未充分考虑特征组合对于类别间相关性的影响 以及相关性与冗余性的内在关系。事实上，特征组合本身可能对于分类能力具 有很强的贡献力，起到提升分类效果的作用，也可能干扰分类决策。而冗余性 的度量应该建立在提供分类信息的重合性的基础上，并非特征本身的相似度。 由此，本文定义了特征互补量和冗余量的计算方法，在考虑特征间作用力的情 况下，度量特征子集与类别的相关性，并结合特征冗余量，定义评价函数。同 时依据提出的特征分类能力的向量化表征，通过加入结构互补性较强的特征完 成搜索，以快速得到较优的特征子集。最后，通过对比实验证明了算法的有效 性。 关键词：特征选择；特征分类能力；特征相互作用力 I Abst Abstract Abstract Feature selection is a pretreatment process on the source data before construct models depends on the machine learning algorithms, which is a research problem widely concerned. For calculation and analysis on the high dimensional data, on the one hand, it is easy to fall into the “Curse of Dimensionality” predicament; on the other hand, it may not true that all dimensions of data or concepts contains important information for prediction all the same. In addition, in the process of dealing with data, it may also have the request for interpretation analysis, which is to understand the implied informati