基于半监督的多流形学习算法研究-计算机技术专业论文.docxVIP

摘要 摘要 I I 摘 要 流形学习是一种非线性降维技术，它能够较好地发现隐藏在高维数据中的 低维流形，其已被广泛应用于数据分类问题中以解决维数灾难问题。但是，大 部分已有的流形学习算法对单一采样的数据有效，对采样于多流形的数据却有 一定的局限性。在一般的分类问题中，认为每个类别中的数据可能张成一个自 己的子流形，多个类别数据则张成多个子流形。然而，目前对于多流形问题的 研究工作还比较少。 随着数据获取技术的提高，我们容易获得大量未标记样本点，但因人力和 物力的局限，我们难以获取大量有标记的样本。所以，如何充分发挥少量有标 记样本点的价值，并结合大量的未标记样本点来指导学习是流形学习面临的挑 战之一。而半监督流形学习方法正好为此提供了一个较好的解决方案。 但是，由于应用过程中所获取的高维数据难免受到噪声的“污染”，使无 监督和半监督的流形学习算法的性能都受到了影响。它们对噪声并不鲁棒，主 要是因为噪声的存在，在一定程度上破坏了原数据点间的局部几何关系，使得 算法在挖掘数据的本质特征时造成了偏差。目前针对鲁棒性能的改善已有一些 相应的工作，但是其大多基于无监督流形学习算法做出的改进，对于半监督方 面的鲁棒性问题研究甚少。 因此，本文主要围绕流形学习中的多流形问题以及鲁棒性问题展开，并结 合半监督学习技术对流形学习算法进行改进。具体来讲，本文的主要工作体现 在以下两方面： 1. 针对多流形问题，本文给出了一种新颖的方法，即基于多流形的半监督 学习算法（Semi-supervised Learning On Multi-Manifold，简称 SSL-MM）。该算 法通过求解一个稀疏优化模型来为每个样本点构造局部几何结构，使得所构造 的局部几何关系能够有效减少分布于不同流形的近邻点所带来的影响。然后在 已知部分样本点的标签信息情况下，通过在低维空间中保持已学习到的局部几 何关系来对未标记样本进行标签预测。同时，本文在多个数据集上进行了大量 的对比实验，用以说明所提算法 SSL-MM 的有效性。 2. 针对噪声敏感性问题，提出了一个鲁棒半监督流形学习的算法框架 华侨大 华侨大学硕士学位论文 II II （Robust Semi-supervised Manifold Learning，简称 RSSML）。首先，我们先对 标记样本点的噪声程度进行预测，然后通过构造一个正则项来减少含噪声的标 记样本点的作用。我们在经典的半监督优化模型基础上引入了一个正则项，构 造出一个新的更具鲁棒性的半监督优化模型。最后我们在一些真实数据集上验 证了 RSSML 算法对提高分类精度和对噪声的鲁棒性有一定的成效。 关键词：数据降维 流形学习 半监督 多流形 鲁棒性 Abst Abstract PAGE PAGE VI Abstract As a non-linear dimensionality reduction method, manifold learning methods can discover the intrinsic low-dimensional structures of the high-dimensional data. They have been widely used in data classification to tackle the curse of dimensiona- lity problem. However, they are unable to be used effectively when the input data lie in multiple manifolds with possible intersections. And this is a general case in the classification problem, since the data from each class may form its own manifold and different classes corresponds to different sub-manifolds. At present, the work in this area is relatively less. With the improvement of data acquisition technology, its easy to get a lot of unlabeled sample points. But because of the limitations of manpower and material resources, we are difficult to obtain a lot of