基于特征关联性的特征选择算法研究.pdfVIP

基于特征关联性的特征选择算法研究 重庆大学计算机学院! #$$ % 摘 要! 从特征与特征!特征与类的关联性出发说明了非搜索性特征选择的原理及相关算法# ! 关键词 非搜索性特征选择 关联性 特征选择算法 从原始特征集中选出最优特征子集是模式识别和机 它主要用在封装器模型的搜索算法中 如 分 ! 4*!, 0*?,1 ! % 器学习等领域的一个关键问题 同时也是一个棘手问题 类器准确率 @55 分类器准确率等 现已证明 最优 最小 特征子集选择 终止条件 指算法结束所要满足的要求 ! ! #$%% !#’()*+ $,*- !A ! ’./, %.01,’ %,+,2’(34 是 56 难问题 不同算法在上面四个部分采用的策略不同 如遗传 实际应用中有二种特征选择的问题 一种是从原始 算法经常采用的终止条件为 是否达到预定算法的最大 # # ! ! ! 特征集中选出固定数目的特征 使得分类器的错误率最 代数 是否找到某个较优的染色体 连续几次迭代后得到 小 这是一个无约束的组合优化问题 另一种是对于给定 ! $ 的解群中最优解是否变化 的允许错误率! ! 求维数最小的特征子集 这是一种有约束 ! ! 在有关特征选择的文献中 主要是关注搜索性算法 的最优化问题 另外特征选择可以分为监督特征选择和 对于非搜索性算法的介绍不多 而机器学习中 随着特征 ! 非监督特征选择 ! 维数的不断增长 非搜索性算法越来越受到重视 非搜索 特征选择算法从模型上一般可以分为过滤器和封装 的特征选择通过计算特征间及特征与类别的关联性 通