基于方差的CHI特征选择方法.PDFVIP

第２９卷第４期 计 算 机 应 用 研 究 Ｖｏｌ．２９Ｎｏ．４ ２０１２年４月　 ＡｐｐｌｉｃａｔｉｏｎＲｅｓｅａｒｃｈｏｆＣｏｍｐｕｔｅｒｓ Ａｐｒ．２０１２ 基于方差的ＣＨＩ特征选择方法 １，２ １ ２ １ 邱云飞 ，王　威 ，刘大有 ，邵良杉 （１．辽宁工程技术大学软件学院，辽宁 葫芦岛１２５１０５；２．吉林大学计算机科学与技术学院，长春 １３００１２） 摘　要：通过分析特征词与类别间的相关性，在原有的卡方特征选择的方法上增加三个调节参数，使选出的特 征词集中分布在某一类，且在某一类中尽可能地均匀分布，并使特征词在某一类中出现的次数尽可能地多。通 过实验对比改进前后的卡方特征选择方法，基于方差的卡方统计（ＶａｒＣＨＩ）方法使得查全率和查准率都得到了 明显的提高。 关键词：文本分类；特征选择；卡方统计量；方差 中图分类号：ＴＰ３９１　　　文献标志码：Ａ　　　文章编号：１００１３６９５（２０１２）０４１３０４０３ ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００１３６９５．２０１２．０４．０２８ ＣＨＩｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎｖａｒｉａｎｃｅ １，２ １ ２ １ ＱＩＵＹｕｎｆｅｉ ，ＷＡＮＧＷｅｉ，ＬＩＵＤａｙｏｕ，ＳＨＡＯＬｉａｎｇｓｈａｎ （１．ＳｃｈｏｏｌｏｆＳｏｆｔｗａｒｅ，ＬｉａｏｎｉｎｇＴｅｃｈｎｉｃａｌＵｎｉｖｅｒｓｉｔｙ，ＨｕｌｕｄａｏＬｉａｏｎｉｎｇ１２５１０５，Ｃｈｉｎａ；２．ＣｏｌｌｅｇｅｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ＆Ｔｅｃｈｎｏｌｏｇｙ，Ｊｉｌｉｎ Ｕｎｉｖｅｒｓｉｔｙ，Ｃｈａｎｇｃｈｕｎ１３００１２，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｉｎｏｒｄｅｒｔｏｍａｋｅｔｈｅｆｅａｔｕｒｅｓｓｅｌｅｃｔｅｄａｒｅｄｉｓｔｒｉｂｕｔｅｄｉｎｔｅｎｓｉｖｅｌｙｉｎａｃｅｒｔａｉｎｃｌａｓｓ，ｅｖｅｎｌｙｉｎｔｈａｔｃｅｒｔａｉｎｃｌａｓｓａｓ ｍｕｃｈａｓｐｏｓｓｉｂｌｅ，ａｎｄｍａｋｅｆｅａｔｕｒｅｓａｐｐｅａｒｉｎｔｈａｔｃｅｒｔａｉｎｃｌａｓｓａｓｍａｎｙａｓｐｏｓｓｉｂｌｅ，ｔｈｉｓｐａｐｅｒａｄｄｅｄｔｈｒｅｅａｄｊｕｓｔｅｄｐａｒａｍｅ ｔｅｒｓｔｏｔｈｅｏｒｉｇｉｎａｌｌｙｔｒａｄｉｔｉｏｎａｌＣＨＩｓｑｕａｒｅｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｍｅｔｈｏｄｔｈｒｏｕｇｈａｎａｌｙｚｉｎｇｔｈｅｒｅｌｅｖａｎｃｅｂｅｔｗｅｅｎｆｅａｔｕｒｅｓａｎｄ ｃｌａｓｓｅｓ．ＶａｒＣＨＩｓｔａｔｉｓｔｉｃｍｅｔｈｏｄｂａｓｅｄｏｎｖａｒｉａｎｃｅｍａｋｅｓｔｈｅｐｒｅｃｉｓｉｏｎａｎｄｒｅｃａｌｌｉｍｐｒｏｖｅｄａｐｐａｒｅｎｔｌｙｂｙｃｏｍｐａｒｉｎｇｔｈｅｅｘ ｐｅｒｉｍｅｎｔｓｏｆｔｈｅｔｒａｄｉｔｉｏｎａｌＣＨＩｓｑｕａｒｅｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｍｅｔｈｏｄａｎｄｔｈｅｉｍｐｒｏｖｅｄｏｎｅ． Ｋｅｙｗｏｒｄｓ：ｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎ；ｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎ；ＣＨＩｓｑｕａｒｅｓｔａｔｉｓｔｉｃ；ｖａｒｉａｎｃｅ 方统计方法的基础上增加三个调节参数，提出一种基于方差的 　引言 特征选择方法，并通过对改进前后的ＣＨＩ特征选择进行实验。 ［１，２］ 实验结果证明了该方法的可行性和有效性。 高维的特征空间是文本分类需要解决的一个问题 。 一般大小的数据集就有上万个特征，而这些特