一种基于密度的大边界最近邻文本分类方法.pdfVIP

第３０卷第７期　　　 计算机应用与软件 Ｖｏｌ３０Ｎｏ．７ ２０１３年７月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ｊｕｌ．２０１３ 一种基于密度的大边界最近邻文本分类方法 彭　凯　魏　岩　杨煜普 （上海交通大学自动化系，系统控制与信息处理教育部重点实验室　上海２００２４０） 摘　要　　距离的度量方法是影响Ｋ近邻分类算法的最重要因素，普通的欧式距离度量方法只对数值敏感无法反映数据内部的关 联，对此在Ｋ近邻文本分类中引入一种大边界最近邻（ＬＭＮＮ）距离度量学习算法，并针对此算法会加剧数据密度分布不均的情况， 提出一种改进的基于样本密度的大边界最近邻文本分类算法（ＤＬＭＮＮＣ）。该算法首先利用ＬＭＮＮ完成对样本集的训练得到映射 矩阵Ｌ对原数据空间进行重构，然后为了解决ＬＭＮＮ算法可能会加剧样本分布不均匀的问题定义一个密度函数Ｄ，最后用密度函数 结合Ｋ近邻决策条件，实现文本分类。实验证明ＤＬＭＮＮＣ在很大程度上提高了文本分类精度。 关键词　　大边界最近邻　Ｋ近邻　密度　距离度量学习　文本分类 中图分类号　ＴＰ３０１　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１３．０７．０２３ ＡＬＡＲＧＥＭＡＲＧＩＮＮＥＡＲＥＳＴＮＥＩＧＨＢＯＵＲＴＥＸＴ ＣＬＡＳＳＩＦＩＣＡＴＩＯＮＭＥＴＨＯＤＢＡＳＥＤＯＮＤＥＮＳＩＴＹ ＰｅｎｇＫａｉ　ＷｅｉＹａｎ　ＹａｎｇＹｕｐｕ （ＤｅｐａｒｔｍｅｎｔｏｆＡｕｔｏｍａｔｉｏｎ，ＳｈａｎｇｈａｉＪｉａｏＴｏｎｇＵｎｉｖｅｒｓｉｔｙ，ＫｅｙＬａｂｏｒａｔｏｒｙｏｆＳｙｓｔｅｍＣｏｎｔｒｏｌａｎｄＩｎｆｏｒｍａｔｉｏｎＰｒｏｃｅｓｓｉｎｇ， ＭｉｎｉｓｔｒｙｏｆＥｄｕｃａｔｉｏｎｏｆＣｈｉｎａ，Ｓｈａｎｇｈａｉ２００２４０，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　ＴｈｅｄｉｓｔａｎｃｅｍｅｔｒｉｃｉｓｔｈｅｍｏｓｔｉｍｐｏｒｔａｎｔｆａｃｔｏｒｔｈａｔａｆｆｅｃｔｓｔｈｅＫｎｅａｒｅｓｔｎｅｉｇｈｂｏｕｒｃｌａｓｓｉｆｉｃａｔｉｏｎａｌｇｏｒｉｔｈｍ．Ｔｒａｄｉｔｉｏｎａｌ Ｅｕｃｌｉｄｅａｎｄｉｓｔａｎｃｅｍｅｔｒｉｃｉｓｏｎｌｙｓｅｎｓｉｔｉｖｅｔｏｎｕｍｅｒａｌｖａｌｕｅａｎｄｄｏｅｓｎｏｔｓｅｉｚｅｔｈｅｉｎｔｒａａｓｓｏｃｉａｔｉｏｎｏｆｄａｔａ．Ｉｎｔｈｉｓｐａｐｅｒ，ｗｅｉｎｔｒｏｄｕｃｅａｎｅｗ ｄｉｓｔａｎｃｅｍｅｔｒｉｃｌｅａｒｎｉｎｇｍｅｔｈｏｄｃａｌｌｅｄｌａｒｇｅｍａｒｇｉｎｎｅａｒｅｓｔｎｅｉｇｈｂｏｕｒ（ＬＭＮＮ）ｉｎｔｏＫｎｅａｒｅｓｔｎｅｉｇｈｂｏｕｒｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎ，ａｎｄａｌｓｏｐｕｔ ｆｏｒｗａｒｄａｎａｌｇｏｒｉｔｈｍｏｆｓａｍｐｌｅｄｅｎｓｉｔｙｂａｓｅｄＬＭＮＮｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎｃａｌｌｅｄＤＬＭＮＮＣｔｏｓｏｌｖｅｔｈｅｐｒｏｂｌｅｍａｉｍｉｎｇａｔｔｈｅｃｉｒｃｕｍｓｔａｎｃｅｔｈａｔ ｔｈｅＬＭＮＮａｌｇｏｒｉｔｈｍｍａｙａｇｇｒａｖａｔｅｔｈｅｉｍｂａｌａｎｃｅｏｆｓａｍｐｌｅｄｅｎｓｉｔｙｄｉｓｔｒｉｂｕｔｉｏｎ．ＴｈｉｓａｌｇｏｒｉｔｈｍｆｉｒｓｔｕｓｅｓＬＭＮＮｔｏｃｏｍｐｌｅｔｅｔｈｅｔｒａｉｎｉｎｇｏｎ ｓａｍｐｌｅｓｅｔａｎｄａｃｑｕｉｒｅｔｈｅｍａｐｐｉｎｇｍａｔｒｉｘＬｔｏｒｅｃｏｎｓｔｒｕｃｔｔｈｅｏｒｉｇｉｎａｌｄａｔａｓｐａｃｅ；ｔｈｅｎｄｅｆｉｎｅｓａｄｅｎｓｉｔｙｆｕｎｃｔｉｏｎＤｆｏｒｓｏｌｖｉｎｇｔｈｅｐｒｏｂｌｅｍ ｏｆＬＭＮＮａｌｇｏｒｉｔｈｍｔｈａｔｉｔｍａｙｉｎｔｅｎｓｉｆｙｔｈｅｕｎｅｖｅｎｄｉｓｔｒｉｂｕｔｉｏｎｏｆｓａｍｐｌｅ；ｆｉｎａｌｌｙｔｈｅｔｅｘｔｃｌａｓｓｉｆｉｃａｔｉｏｎｉｓｒｅａｌｉｓｅｄｂｙｉｎｔｅｇｒａｔｉｎｇｔｈｅｄｅｎｓｉｔｙ ｆｕｎｃｔｉｏｎｗｉｔｈＫｎｅａｒｅｓｔｎｅｉｇｈｂｏｕｒｉｎｇｄｅｃｉｓｉｏｎｍａｋｉｎｇｃｏｎｄｉｔｉｏｎ．Ｅｘｐｅｒｉｍｅｎｔｓｐｒ