基于ReliefF算法核主成分特征提取.pdf

201 科教论坛 1年12月 基于ReliefF算法的核主成分特征提取 孙雅妮＼陈新华 (四川信息职业技术学院 四川广元 628017) hits 摘要：入侵检测中特征选择和特征提取是解决特征降维 4．计算k个nearestHi； 的方法之一。本文采用基于RehefF算法的核主成分方法解决 5．对于每一类c≠cIass(RlJ nearestmisses 特征降维问题，先采用ReEefF算法去除原始特征中与分类不 6．从类C中求得k Mi(c)； 相关的特征，再采用核主成分分析法进行特征提取。实验数 7．forA：=1toN 据表明：将41个特征变量降维成9个主成分，大大减轻了后 8． 上 w【A】．-w[A】一∑diff(A，R．，Hj)／(m‘k)+ 续的分类器的工作量，同时也有助于提高分类器的分类精度。 KPCA 关键词：特征选择 ReIiefF算法 特征提 一‘’”… c孟：¨Il—P(class(R。))智 ’l 取 。到志争肌挑，MJt刚叫5 9．结束； 为了能获得理想的入侵榆测效果，需要在两个方面进行 需要说明的参数：di仟(A，R“H)代表样本RI和H关于特征A 努力：一是建造一个好的分类器，二是寻找对问题的一个好 的差异，初始值定义如公式(1)： 的表示，即选用的输入特征能为分类器提供最有用的信息。 w11) 对于前者，人们尝试利用各种基于小川原理的方法来检测入 ，，，∥rJ PⅣ、一Jov口缸P(彳，R)=Wm“彳，Ⅳ)【 彤(爿，R，Ⅳ)={．．，、．一7 —7} U omtrw∞t l 侵。对于后者，一般有两种方法从原始的输入特征中获得问 迭代计算为公式(2) 题更好的表达：特征选择和特征提取。 J胛，J (2} 1、特征选择和特征提取技术 D叭一lⅧ觑“彳，尺f)一Ⅷ缸“4，日)I 弘’ maXl月l—mInl月} 彤(彳，R，Ⅳ)=[盖i若而高型 采用模式识别方法进行入侵检测首先要解决特征降维问 其中，H与M分别代表训练集合中与实例R；距离最近的 题。现存的特征降维主要采用特征选择和特征再构造(也就是