高维数据特征降维研究综述教材.pdfVIP

第 25 卷第 9 期 计 算 机 应 用 研 究 Vol. 25 No. 9 2008 年 9 月 Application Research of Computers Sep. 2008 高维数据特征降维研究综述 胡 洁a, b, c ( 北京大学 a. 视觉与听觉信息处理实验室 ; b. 信息科学技术学院 智能科学系; c. 数字图书馆研究所, 北京 100871) 摘 要: 特征降维能够有效地提高机器学习的效率, 特征子集的搜索过程以及特征评价标准是特征降维的两个 核心问题。综述国际上关于特征降维的研究成果, 总结并提出了较完备的特征降维模型定义; 通过列举解决特 征降维上重要问题的各种方案来比较各种算法的特点以及优劣 , 并讨论了该方向上尚未解决的问题和发展 趋势。 关键词: 降维; 机器学习 ; 特征选择 ; 特征抽取; 评估准则 中图分类号: TP181 文献标志码: A 文章编号: 1001- 3695( 2008) 09- 2601- 06 Survey on feature dimension reduction for high-dimensional data HU Jie ( a. Laboratory of Machine Perception, b. Dept. of Machine Intelligence, School of Electronics Engineering Computer Science, c. Institute of Digital Library, Peking University, Beijing 100871, China) Abstract: Feature dimension reduction is effective in improving machine learning, the point is how to search the subset and selection criteria. This paper defined general models for dimension reduction, compared different approaches, and discussed the unresolved topics and development trends. Key words: dimension reduction; machine learning; feature selection; feature abstraction; selection criteria 特征降维( feature dimension reduction) 是一个从初始高维 1. 1 特征抽取 特征集合中选出低维特征集合, 以便根据一定的评估准则最优 特征抽取也被称为特征重参数化 ( feature reparameteriza- 化缩小特征空间的过程, 通常作为机器学习的预处理步骤。特 [ 1] tion) 。由于自然语言中存在大量的多义词、同义词现象, 特 征降维自 20 世纪 70 年代以来就获得了广泛的研究。近几年 征集无法生成一个最优的特征空间对数据内容进行描述。特 以来, 在许多应用 ( 如基因染色体组工程、文本分类、图像检