局部线性重构分类算法研究.pdfVIP

第３０卷第４期　　　 计算机应用与软件 Ｖｏｌ３０Ｎｏ．４ ２０１３年４月　　 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅ Ａｐｒ．２０１３ 局部线性重构分类算法研究 李长彬　黄　东　黎永壹 （钦州学院数学与计算机科学学院　广西钦州５３５０００） 摘　要　　局部线性重构（ＬＬＲ）是局部线性嵌入算法（ＬＬＥ）的一个基本步骤，其目的是用线性重构的方法来表达向量数据之间的 局部邻域关系。提出一种快速的监督分类算法，它采用训练集中的向量数据重构测试数据，能够最好地重构给定测试数据的类别被 判定为待求标签。与相关算法的实验比较表明，该算法在分类准确性和计算时间上均有明显的优势。 关键词　　监督分类　局部线性重构　重构误差　降维 中图分类号　ＴＰ３９１．４　　　　文献标识码　Ａ　　　　ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００３８６ｘ．２０１３．０４．０４３ ＯＮＣＬＡＳＳＩＦＩＣＡＴＩＯＮＡＬＧＯＲＩＴＨＭＢＡＳＥＤＯＮＬＯＣＡＬＬＹＬＩＮＥＡＲＲＥＣＯＮＳＴＲＵＣＴＩＯＮ ＬｉＣｈａｎｇｂｉｎ　ＨｕａｎｇＤｏｎｇ　ＬｉＹｏｎｇｙｉ （ＣｏｌｌｅｇｅｏｆＭａｔｈｅｍａｔｉｃｓａｎｄＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＱｉｎｚｈｏｕＣｏｌｌｅｇｅ，Ｑｉｎｚｈｏｕ５３５０００，Ｇｕａｎｇｘｉ，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ　　Ｌｏｃａｌｌｙｌｉｎｅａｒｒｅｃｏｎｓｔｒｕｃｔｉｏｎ（ＬＬＲ）ｉｓａｆｕｎｄａｍｅｎｔａｌｓｔｅｐｉｎｄｉｍｅｎｓｉｏｎａｌｉｔｙｒｅｄｕｃｔｉｏｎａｌｇｏｒｉｔｈｍｋｎｏｗｎａｓｌｏｃａｌｌｙｌｉｎｅａｒ ｅｍｂｅｄｄｉｎｇ（ＬＬＥ）ｆｏｒｒｅｐｒｅｓｅｎｔｉｎｇｔｈｅｌｏｃａｌｎｅｉｇｈｂｏｕｒｈｏｏｄｒｅｌａｔｉｏｎｓｈｉｐｂｅｔｗｅｅｎｖｅｃｔｏｒｄａｔａｔｈｒｏｕｇｈｌｉｎｅａｒｒｅｃｏｎｓｔｒｕｃｔｉｏｎｓ．Ｗｅｐｒｅｓｅｎｔａｆａｓｔ ｓｕｐｅｒｖｉｓｅｄｃｌａｓｓｉｆｉｃａｔｉｏｎａｌｇｏｒｉｔｈｍ，ｉｔｒｅｃｏｎｓｔｒｕｃｔｔｈｅｔｅｓｔｄａｔａｗｉｔｈｖｅｃｔｏｒｄａｔａｉｎｔｒａｉｎｉｎｇｓｅｔａｎｄｃａｎｂｅｓｔｒｅｃｏｎｓｔｒｕｃｔｔｈｅｊｕｄｇｅｍｅｎｔｏｆｔｈｅ ｃｌａｓｓｏｆｇｉｖｅｎｔｅｓｔｄａｔａａｓｔｈｅｅｓｔｉｍａｔｉｎｇｌａｂｅｌ．Ｃｏｍｐａｒｉｓｏｎｗｉｔｈｔｈｅｅｘｐｅｒｉｍｅｎｔｏｆｃｏｒｒｅｌａｔｅｄａｌｇｏｒｉｔｈｍｓｈｏｗｓｔｈａｔｔｈｅｐｒｏｐｏｓｅｄａｌｇｏｒｉｔｈｍ ｃｌｅａｒｌｙｏｕｔｐｅｒｆｏｒｍｓｉｎｃｌａｓｓｉｆｉｃａｔｉｏｎａｃｃｕｒａｃｙａｎｄｃｏｍｐｕｔｉｎｇｔｉｍｅ． Ｋｅｙｗｏｒｄｓ　　Ｓｕｐｅｒｖｉｓｅｄｃｌａｓｓｉｆｉｃａｔｉｏｎ　Ｌｏｃａｌｌｙｌｉｎｅａｒｒｅｃｏｎｓｔｒｕｃｔｉｏｎ　Ｒｅｃｏｎｓｔｒｕｃｔｉｏｎｅｒｒｏｒｓ　Ｄｉｍｅｎｓｉｏｎｒｅｄｕｃｔｉｏｎ 用一组公开数据对改进的算法进行了测试，得到了比Ｋ近邻分 ０　引　言 类器和ＫａｎｇＣｈｏ算法更好的效果。 ［１］ Ｋ近邻分类器 是由Ｃｏｖｅｒ和Ｈａｒｔ提出的，它是根据Ｋ个 １　基本概念与相关工作 最近邻居的投票来决定某个样本的标签的。这种分类算法虽然 设计简单，但有着广泛的应用背景，且准确性较高。然而，在 Ｋ １．１　监督分类 近邻分类器中，长期存在着一个未解决好的问题，即“平局问 监督分类是指在训练样本的指导下，对测试样本进行分类 题”。它指的是投票出现均衡时，无法决定测试样本的标签的 的算法，它运用的是训练集和测试样本之间的关系，这一点是与 问题。通常的做法是当出现平局时随机决定，然而这种方式在 半监督分类算法相区别的，因为半监督分类算法除了运用训练 设计上不够精细。另外，对于两类问题，可以将Ｋ取成奇数值 集和测试样本之间的关系，还会运用测试集的