一种改进的集中度和分散度文本特征选择算法.PDFVIP

第２８卷第９期　　　 计算机应用与软件 Ｖｏｌ２８Ｎｏ．９ ２０１１年９月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ｓｅｐ．２０１１ 一种改进的集中度和分散度文本特征选择算法 沈友文　赵新建　徐　俊 （浙江工业大学计算机学院　浙江杭州３１００２３） 摘　要　　特征选择算法（ＴＦＦＳ）存有一定的不足：集中度难于正确衡量低频繁特征项的权值；分散度忽略了互信息为负数的特征 项对文本分类的影响。提出一种改进的特征选择算法（ＴＦＦＳＬ），ＴＦＦＳＬ对集中度、分散度做了一定的改进，避免了ＴＦＦＳ的缺陷，同 时ＴＦＦＳＬ结合特征项长度信息，提高了短语和词语在分类中的作用。ＳＶＭ分类实验结果表明：与ＴＦＦＳ相比，ＴＦＦＳＬ有更高的文本 分类性能和剔除无关特征项的能力。 关键词　　互信息　特征选择　文本分类　特征权重　支持向量机 中图分类号　ＴＰ３０１．６　　　　文献标识码　Ａ ＡＮＩＭＰＲＯＶＥＤＣＯＮＣＥＮＴＲＡＴＩＯＮＡＮＤＤＩＳＰＥＲＳＩＯＮＴＥＸＴＦＥＡＴＵＲＥ ＳＥＬＥＣＴＩＯＮＡＬＧＯＲＩＴＨＭ ＳｈｅｎＹｏｕｗｅｎ　ＺｈａｏＸｉｎｊｉａｎ　ＸｕＪｕｎ （ＣｏｌｌｅｇｅｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＺｈｅｊｉａｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｈａｎｇｚｈｏｕ３１００２３，Ｚｈｅｊｉａｎｇ，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　ＦｅａｔｕｒｅｓｅｌｅｃｔｉｏｎａｌｇｏｒｉｔｈｍＴＦＦＳｈａｓｉｔｓｓｈｏｒｔｃｏｍｉｎｇｓａｌｉｔｔｌｅｂｉｔ：ｉｔｉｓｄｉｆｆｉｃｕｌｔｆｏｒｔｈｅｃｏｎｃｅｎｔｒａｔｉｏｎｔｏａｃｃｕｒａｔｅｌｙｍｅａｓｕｒｅｔｈｅ ｗｅｉｇｈｔｏｆｌｏｗｆｒｅｑｕｅｎｔｔｅｒｍｓ，ｗｈｉｌｅｔｈｅｄｉｓｐｅｒｓｉｏｎｉｇｎｏｒｅｓｔｈｅｉｍｐａｃｔｏｆｔｈｅｔｅｒｍｓｏｎｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎｗｈｏｓｅｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎａｒｅｎｅｇａｔｉｖｅ． ＩｎｔｈｅｐａｐｅｒｔｈｅａｕｔｈｏｒｓｐｒｏｐｏｓｅａｍｏｄｉｆｉｅｄｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎａｌｇｏｒｉｔｈｍＴＦＦＳＬ．ＴＦＦＳＬｍａｋｅｓｃｅｒｔａｉｎｉｍｐｒｏｖｅｍｅｎｔｓｏｎｃｏｎｃｅｎｔｒａｔｉｏｎａｎｄ ｄｉｓｐｅｒｓｉｏｎ，ａｖｏｉｄｓｔｈｅｄｅｆｅｃｔｓｏｆＴＦＦＳ，ａｎｄｍｅａｎｗｈｉｌｅｂｙｃｏｍｂｉｎｉｎｇｔｈｅｌｅｎｇｔｈｉｎｆｏｒｍａｔｉｏｎｏｆｔｈｅｔｅｒｍｓ，ｉｍｐｒｏｖｅｓｔｈｅｒｏｌｅｏｆｔｈｅｐｈｒａｓｅｓａｎｄ ｗｏｒｄｅｘｐｒｅｓｓｉｏｎｓｉｎｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎ．ＥｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｏｆＳＶＭｃｌａｓｓｉｆｉｃａｔｉｏｎｓｈｏｗｔｈａｔ：ｃｏｍｐａｒｅｄｗｉｔｈＴＦＦＳａｌｇｏｒｉｔｈｍ，ＴＦＦＳＬａｌｇｏｒｉｔｈｍ ｈａｓｂｅｔｔｅｒｐｅｒｆｏｒｍａｎｃｅｉｎｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎａｎｄｃａｐａｃｉｔｙｉｎｅｌｉｍｉｎａｔｉｎｇｉｒｒｅｌｅｖａｎｔｔｅｒｍｓ． Ｋｅｙｗｏｒｄｓ　　Ｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎ　Ｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎ　Ｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎ　Ｆｅａｔｕｒｅｗｅｉｇｈｔ　Ｓｕｐｐｏｒｔｖｅｃｔｏｒｍａｃｈｉｎｅ 本文主要研究ＴＦＦＳ算法［４］，分析了利用该算法抽取的特 ０　引　言 征项对分类精度不高的原因，并提出一种改进集中度和分散度 的计算方法。 随着电子文档数量的飞速增加，对其进行分类管理显得越 来越重要。如何使用计算机从海量的文本文档中，根据其内容 １　ＴＦＦＳ算法 信息，将文档根据预先设置的类别进行自动分类，避免人工分类 带来的效率低、周期长等诸多缺陷，从而节约大量的人力和物