流形学习方法中的若干问题分析——计算机科学.pdfVIP

流形学习方法中的若干问题分析* 高小方 （山西大学计算智能与中文处理教育部实验室 太原 030006） 摘 要 流形学习是近年来机器学习与认知科学中的一个新的研究热点，其本质在于根据有限的离散样本学 习和发现嵌入在高维空间中的低维光滑流形，从而揭示隐藏在高维数据中的内在低维结构，以实现非线性 降维或者可视化。本文介绍了几种主要的流形学习算法，分析了它们的优势与不足，总结了流形学习方法 中需要解决的若干问题及其研究现状，并展望了流形学习未来的研究前景。 关键词 流形学习 维数约简 等距映射算法 局部线性嵌入算法 Problems and analysis in manifold learning Gao Xiaofang (Key Laboratory of Computational Intelligence and Chinese Information Processing of Ministry of Education, Shanxi University, Shanxi Taiyuan 030006 China) Abstract Manifold learning is a newer research direction of machine learning and congnitive science in recent years, its essence is to find out the low dimensional manifold hidden in high dimensional space though learning discrete samples, and get the hidden dimensional structure of the high dimensional data to realize non-linear dimension reduction. The paper introduced some manifold learning algorithms, summarized some problems of manifold learning and its research status, and discussed the prospect of manifold learning. Keywords Manifold learning, Dimensionality reduction, ISOMAP, LLE * 本文得到国家 863 计划项目(2007AA01Z165) 、国家自然科学基金 、高等学校博士学 科点专项科研基金(20050108604) 、教育部科学技术研究重点项目(206017) 、山西省重点实验室开放基金 (200603023) 的资助。高小方，博士研究生，研究方向为机器学习。 随着信息时代的到来，对高维数据的处 究的主要目标是经过坐标卡变换而保持不变 的性质。 理成为迫切需要解决的问题。如何对高维数 流形学习就是要根据有限的离散样本 据降维以解决“维数灾难”成为人工智能和 学习和发现嵌入在高维空间中的低维光滑流 机器学习领域的研究热点。美国著名杂志 形，揭示隐藏在高维数据集中的内在低维结 《Science 》在 2000 年的时候连续发表了三 构，重构并进行非线性降维或者可视化。其 篇论文[1-3] ，从认知的角度提出并讨论了流形 定 义 为 ： 设 Y ⊂R d 是 一 个 低 维 流 形 ， 学习的研究课题。不仅首次使用了术语 f Y R : → D