半监督特征选择和特征选择的稳定性研究-控制工程专业论文.docxVIP

上海交通大学硕士学位论文 上海交通大学 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定， 同意学校保留并向国家有关部门或机构送交论文的复印件和电子版， 允许论文被查阅和借阅。本人授权上海交通大学可以将本学位论文的 全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫 描等复制手段保存和汇编本学位论文。 保密口，在 年解密后适用本授权书。 本学位论文属于  不保密d  (请在以上方框内打(( -J ) 学问作者签名:做 指导教师签名 :i:bh 日期 Yv{丁年〉月 \日 日期:沟凸年〉月叭日 第 11 页 万方数据 上海交通大学硕士学位论文 万方数据 半监督特征选择和特征选择的稳定性研究 摘要 数据挖掘是用尽各种方法从数据当中获取知识的过程。但是数据 集越来越高的维数给数据???掘带来了越来越大的挑战。随着人类知识 的增加，数据集变得越来越庞大，而且不断的产生新的类型的数据， 比如说网络当中的数据流、基因和蛋白质中的微阵列等等。研究人员 们逐渐意识到，如果一套数据挖掘工具是有效的，那么特征选择一定 要是这套系统当中的一个重要的组成部分。特征选择是一个按照某种 规则从原始特征当中选择一个特征子集的过程，是一个在数据挖掘当 中经常被用到的降维技术。在特征选择的过程当中，减少了特征的数 量，去掉了不相关的特征、冗余的特征、或者是噪声数据，因而带来 了直接的影响，比如说加快了数据挖掘算法的计算并且提高了挖掘的 效果，提高了算法的精度，让最后的结果更容易理解等等。 特征原则一直都是数据挖掘、机器学习当中一个活跃的研究领域， 而且有着非常广泛的应用。比如说在基因分析、文本挖掘、图像检索 等等。随着近年来越来越多的新的应用背景，在高维数据复杂数据上 面出现了新挑战，这就需要新的理论、新的方法。稳定特征选择、半 监督特征选择等。 本文主要是研究近几年特征选择领域的两个热门话题，一个是半 监督特征选择，另外一个是特征选择稳定性的度量。 随着采集数据越来越容易，采集一个样本远远要比标记一个样本 第 III 页  来的容易，所以真实情况的训练数据集往往是由少数的有标记样本加 上大量的无标记样本构成，半监督特征选择就是针对这种常见的训练 数据集的特征选择方法。本文对目前比较流形的半监督特征选择方法 进行了研究，并提出了一种基于流形约束的半监督 Fisher-Markov 特 征选择器。 特征选择的稳定性是一个经常被忽视的指标，但是有时候稳定性 的重要程度却不亚于分类精度。本文通过分析现有的集中稳定性度量 方法，并研究了这些度量方法的优缺点。 关键词：特征选择，降维，流形学习，半监督，稳定性，半监督 第 IV 页  THE RESEARCH OF FEATURE SELECTION AND ITS APPLICATION ABSTRACT Data mining is the process of acquiring knowledge of the various methods from the data. Increasing dimensions of datasets has brought a growing challenge. With the increase of human knowledge, data sets become increasingly large, and continue to produce new types of data, for example, the data stream, the network of genes and proteins in the microarray, and so on. The researchers have come to realize that, feature selection is indispensable to a data mining system. Feature selection is a process to select a subset of features from the original features. Feature subset selection is an important approach to deal with high-dimensional data. But selecting the best subset of data is NP hard. So most of feature selection methods cannot handle high-dimensional data efficiently,