用于中文文本分类基于类别区分词特征选择方法.pdfVIP

第３０卷第３期　　　 计算机应用与软件 Ｖｏｌ３０Ｎｏ．３ ２０１３年３月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ｍａｒ．２０１３ 用于中文文本分类的基于类别区分词的特征选择方法 周奇年　张振浩　徐登彩 （浙江理工大学信息学院　浙江杭州３１００１８） 摘　要　　特征选择是中文文本分类过程中的一个重要过程，特征项选择的优劣直接影响文本分类的准确率。在分析几种特征选 择方法的基础上，提出一种类别区分词的特征选择方法。实验结果表明，类别区分词的特征选择方法的分类效率高于传统方法，从 而验证了该方法的有效性。 关键词　　文本分类　特征选择　类别区分词　信息增益　互信息　期望交叉熵 中图分类号　ＴＰ３９１　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１３．０３．０５１ ＦＥＡＴＵＲＥＳＥＬＥＣＴＩＯＮＭＥＴＨＯＤＦＯＲＣＨＩＮＥＳＥＴＥＸＴＣＡＴＥＧＯＲＩＳＡＴＩＯＮＢＡＳＥＤ ＯＮＣＬＡＳＳＤＩＳＣＲＩＭＩＮＡＴＩＮＧＷＯＲＤＳ ＺｈｏｕＱｉｎｉａｎ　ＺｈａｎｇＺｈｅｎｈａｏ　ＸｕＤｅｎｇｃａｉ （ＳｃｈｏｏｌｏｆＩｎｆｏｒｍａｔｉｏｎＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＺｈｅｊｉａｎｇＳｃｉＴｅｃｈＵｎｉｖｅｒｓｉｔｙ，Ｈａｎｇｚｈｏｕ３１００１８，Ｚｈｅｊｉａｎｇ，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　ＦｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｉｓａｋｅｙｐｒｏｃｅｓｓｉｎＣｈｉｎｅｓｅｔｅｘｔｃａｔｅｇｏｒｉｓａｔｉｏｎ，ｗｈｉｃｈｗｉｌｌｄｉｒｅｃｔｌｙａｆｆｅｃｔｔｈｅａｃｃｕｒａｃｙｏｆｔｅｘｔｃａｔｅｇｏｒｉｓａｔｉｏｎ． Ａｆｔｅｒａｎａｌｙｓｉｎｇｓｏｍｅｏｆｔｈｅｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｍｅｔｈｏｄｓ，ａｎｅｗｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｍｅｔｈｏｄｂａｓｅｄｏｎｃｌａｓｓｄｉｓｃｒｉｍｉｎａｔｉｎｇｗｏｒｄｓｉｓｐｒｏｐｏｓｅｄ．Ｅｘｐｅｒ ｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｎｅｗｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｍｅｔｈｏｄｉｓｓｕｐｅｒｉｏｒｔｏｔｒａｄｉｔｉｏｎａｌａｐｐｒｏａｃｈｅｓｉｎｃａｔｅｇｏｒｉｓａｔｉｏｎｅｆｆｉｃｉｅｎｃｙ，ｔｈｅｒｅｆｏｒｅｖｅｒｉｆｉｅｓ ｔｈｅｖａｌｉｄｉｔｙｏｆｔｈｅｎｅｗｍｅｔｈｏｄ． Ｋｅｙｗｏｒｄｓ　　Ｔｅｘｔｃａｔｅｇｏｒｉｓａｔｉｏｎ　Ｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎ　Ｃｌａｓｓｄｉｓｃｒｉｍｉｎａｔｉｎｇｗｏｒｄ　Ｉｎｆｏｒｍａｔｉｏｎｇａｉｎ　Ｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎ　Ｅｘｃｅｐｔｅｄ ｃｒｏｓｓｅｎｔｒｏｐｙ 对向量空间中的每一个特征项即词条，用特征选择函数计算其函 ０　引　言 数值，然后根据函数值的大小对特征词条进行降序排列，然后选 取前Ｎ个词条作为文本分类的特征向量。常用的特征选择函数 文本分类的主要任务是在给定的分类体系下，根据文本内 ［３］ 有信息增益ＩＧ（ＩｎｆｏｒｍａｔｉｏｎＧａｉｎ） ，期望交叉熵ＥＣＥ（Ｅｘｃｅｐｔｅｄ ［１］ 容将未知文本划分到一个或者多个类别中 。当前，随着互联 ［４］ ［５，６］ ＣｒｏｓｓＥｎｔｒｏｐｙ） ，互信息ＭＩ（ＭｕｔｕａｌＩｎｆｏｒｍａｔｉｏｎ） 等。 网上海量文本信息资源的出现，文本分类在信息检