基于入侵检测的特征提取方法 - 计算机应用与软件.pdf

第２７卷第６期　　　 计算机应用与软件 Ｖｏｌ２７Ｎｏ．６ ２０１０年６月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ｊｕｎ．２０１０ 基于入侵检测的特征提取方法 朱笑荣　杨德运 （泰山学院信息科学技术学院　山东泰安２７１０２１） 摘　要　　利用核主成份分析对入侵检测的训练样本进行特征提取，有效地提取出样本的分类信息，降低了维数。在此基础上，进 一步将简约支持向量机ＲＳＶＭ（ＲｅｄｕｃｅｄＳＶＭ）方法应用到非线性的ＰＳＶＭ中，降低了核矩阵的计算量。两种方法相结合提高了训练 速度和入侵检测的分类效果，并且一定程度上还改善了分类的正确率和误报率，数值试验证明算法的有效性。 关键词　　ＲＳＶＭ　ＰＳＶＭ　特征提取 ＦＥＡＴＵＲＥＥＸＴＲＡＣＴＩＯＮＭＥＴＨＯＤＢＡＳＥＤＯＮＩＮＴＲＵＳＩＯＮＤＥＴＥＣＴＩＯＮ ＺｈｕＸｉａｏｒｏｎｇ　ＹａｎｇＤｅｙｕｎ （ＤｅｐａｒｔｍｅｎｔｏｆＩｎｆｏｒｍａｔｉｏｎＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＴａｉｓｈａｎＣｏｌｌｅｇｅ，Ｔａｉａｎ２７１０２１，Ｓｈａｎｇｄｏｎｇ，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　Ｉｎｔｈｅｐａｐｅｒｗｅｕｓｅｔｈｅｋｅｒｎｅｌｐｒｉｎｃｉｐａｌｃｏｍｐｏｎｅｎｔａｎａｌｙｓｉｓｔｏｅｘｔｒａｃｔｆｅａｔｕｒｅｓｆｒｏｍｉｎｔｒｕｓｉｏｎｄｅｔｅｃｔｉｏｎｔｒａｉｎｉｎｇｓａｍｐｌｅｓ．Ｔｈｅ ｍｅｔｈｏｄｅｘｔｒａｃｔｓｆｅａｔｕｒｅｓａｎｄｒｅｄｕｃｅｓｔｈｅｄｉｍｅｎｓｉｏｎｓｖｅｒｙｅｆｆｅｃｔｉｖｅｌｙ．Ｉｎａｄｄｉｔｉｏｎ，ｗｅｆｕｒｔｈｅｒｍａｋｅｕｓｅｏｆＲＳＶＭｍｅｔｈｏｄｔｏｎｏｎｌｉｎｅａｒｐｒｏｘｉｍａｌ ＳＶＭ（ＰＳＶＭ）ａｎｄｔｈｉｓｒｅｄｕｃｅｓｔｈｅｃｏｍｐｕｔａｔｉｏｎｃｏｍｐｌｅｘｉｔｙｏｆｋｅｒｎｅｌｍａｔｒｉｘ．Ｔｈｅｃｏｍｂｉｎａｔｉｏｎｏｆｔｈｅａｂｏｖｅｔｗｏｍｅｔｈｏｄｓｉｍｐｒｏｖｅｓｔｈｅｔｒａｉｎｉｎｇ ｓｐｅｅｄａｎｄｔｈｅｃｌａｓｓｉｆｉｃａｔｉｏｎｅｆｆｅｃｔｏｆｉｎｔｒｕｓｉｏｎｄｅｔｅｃｔｉｏｎ．Ｂｅｓｉｄｅｓ，ｉｔｍｅｌｉｏｒａｔｅｓｔｈｅｃｏｒｒｅｃｔｉｏｎｒａｔｅａｎｄｆａｌｓｅａｌａｒｍｒａｔｅｏｆｔｈｅｃｌａｓｓｉｆｉｃａｔｉｏｎｔｏ ｃｅｒｔａｉｎｅｘｔｅｎｔ，ｎｕｍｅｒｉｃａｌｔｅｓｔａｌｓｏａｔｔｅｓｔｓｔｈｅｖａｌｉｄｉｔｙｏｆｔｈｅａｌｇｏｒｉｔｈｍ． Ｋｅｙｗｏｒｄｓ　　Ｒｅｄｕｃｅｄｓｕｐｐｏｒｔｖｅｃｔｏｒｍａｃｈｉｎｅ（ＲＳＶＭ）　ＰＳＶＭ　Ｆｅａｔｕｒｅｅｘｔｒａｃｔｉｏｎ ０　引　言 １　ＫＰＣＡ方法 用ＳＶＭ方法解决入侵检测问题时，维数高、数量大的数据 ＫＰＣＡ是ＰＣＡ方法的非线性推广形式。它在任意维数的特 集导致核矩阵的计算量很大，使得ＳＶＭ方法难以应用于此类数 征空间中起到类似于ＰＣＡ的作用，并且当核函数取线性核函数 据集上。这就需要一种简化数据的方法，对数据进行特征提取， 时，ＫＰＣＡ等价于ＰＣＡ。ＫＰＣＡ方法并不是直接计算样本协方差 消除数据的相关性和噪声，提取样本信息的主元，降低样本空间 矩阵的特征向量，而是将其转化为求核矩阵的特征值和特征向 的维数，在这些新特征上应用数据挖掘的算法。主成份分析 量问题，避免了在整个特征空间上求特征向量。与其它非线性 ＰＣＡ（ＰｒｉｎｃｉｐａｌＣｏｍｐｏｎｅｎｔＡｎａｌｙｓｉｓ）为输入数据由高维降为低维 特征提取方法相比，它不需要解非线性优化问题，本质上它与 提供了一个很好的方法，但现实中变量之间的关系往往是非线 ＰＣＡ一样是一个线性代数问题。图１形象地说明了ＰＣＡ和ＫＰ 性的，ＫＰＣＡ［１］作为一种非线性的ＰＣＡ方法可以有效地提取输 ＣＡ的特征提取过程。 入数据的非线性信息。文献［２］表明经过特征提取之后的ＳＶＭ 分类算法具有更好的分类精度和分类速