第9节 数据降维.pptVIP

线性方法: (PCA) PCA的目的：寻找能够表示采样数据的最好的投影子空间. PCA的求解：对样本的协方差矩阵进行特征值分解, 所求子空间为过样本均值, 以最大特征值所对应的特征向量为方向的子空间. Principal component 线性方法的不足 数据特征并不具备简单性 例如: PCA 不能发现螺旋型数据，适合高斯分布 KPCA或许能解决主曲线问题，但曲面，立体？ 1 许多高维采样数据都是由少数几个隐含变量所决定的, 如人脸采样由光线亮度, 人离相机的距离, 人的头部姿势, 人的脸部肌肉等因素决定. 2 从认知心理学的角度, 心理学家认为人的认知过程是基于认知流形和拓扑连续性的. R 流形（Manifold） 局部线性嵌入(LLE). S. T. Roweis and L. K. Saul. Nonlinear dimensionality reduction by locally linear embedding. Science, vol. 290, pp. 2323--2326, 2000. 等距映射(Isomap). J.B. Tenenbaum, V. de Silva, and J. C. Langford. A global geometric framework for nonlinear dimensionality reduction. Scie