计算机视觉课程流形学习.pptVIP

第1页，共40页，星期日，2025年，2月5日什么是流形？定义1：如果一个N维的拓扑空间M内的任意一点都存在一个邻域使得该邻域是N维欧氏空间的同胚，则这个拓扑空间M被称为流形。Mx1x2R2Rn第2页，共40页，星期日，2025年，2月5日流形学习的数学基础参考文献:陈省身,陈维桓,微分几何讲义.北京大学出版社,1983陈维桓,微分流形初步(第二版).高等教育出版社,2001第3页，共40页，星期日，2025年，2月5日什么是流形学习？定义2：令Y是包含在欧氏空间的d维域，为光滑嵌入，其中Nd。数据点是随机生成的，经f映射形成观察空间的数据。一般称Y为隐空间，为隐数据。流形学习的目标是要从观察数据中重构f和流形是线性子空间的一种非线性推广.流形是一个局部可坐标化的拓扑空间.第4页，共40页，星期日，2025年，2月5日什么是流形学习？第5页，共40页，星期日，2025年，2月5日流形学习的可行性1许多高维采样数据都是由少数几个隐含变量所决定的，如人脸采样由光线亮度,人离相机的距离,人的头部姿势,人的脸部肌肉等因素决定.2从认知心理学的角度,心理学家认为人的认知过程是基于认知流形和拓扑连续性的.第6页，共40页，星期日，2025年，2月5日算法简介Sciences2000年:Tenenbaum等人:IsomapRoweis和Saul：LLENIPS,2001年：M.Belkin和P.Niyogi:LaplacianEigenmapsNIPSICCV2003：XiaofeiHe等人:LPPPAMI2007：GraphEmbeddingandExtensions：AGeneralFrameworkforDimension第7页，共40页，星期日，2025年，2月5日LLES.T.RoweisandL.K.SaulNonlineardimensionalityreductionbylocallylinearembeddingScience2000第8页，共40页，星期日，2025年，2月5日LLE主要思想：LLE（LocallyLinearEmbedding）算法强调在样本集结构不满足全局线性结构时，样本空间与内在低维子空间之间在局部意义下的结构可以用线性空间近似。第9页，共40页，星期日，2025年，2月5日LLE邻接图第10页，共40页，星期日，2025年，2月5日LLE权值计算：学习目标：在低维空间中保持每个邻域中的权值不变，即假设嵌入映射在局部是线性的条件下,最小化重构误差。第11页，共40页，星期日，2025年，2月5日LLE流程图：Step1：构建邻域。对于原始空间任一给定样本点，用K近邻法得到它的一组邻域点。Step2：计算权值。在第二步用权值描述原始空间任一点与其邻域的关系。权值是使得样本点用它的相邻点重构误差最小的解：Step3：嵌入。最后的嵌入通过最小化误差来保留尽可能多的原空间几何性质：这里W是第二步计算的权值，和是样本点在嵌入空间的投影第12页，共40页，星期日，2025年，2月5日LLE算法示意图第13页，共40页，星期日，2025年，2月5日应用第14页，共40页，星期日，2025年，2月5日应用人脸图像在2D流形空间的投影第15页，共40页，星期日，2025年，2月5日应用嘴唇图像在2D流形空间的投影第16页，共40页，星期日，2025年，2月5日LLE算法的优点LLE算法可以学习任意维数的低维流形.LLE算法中的待定参数很少,K和d.LLE算法中每个点的近邻权值在平移,旋转,伸缩变换下是保持不变的.LLE算法有解析的整体最优解,不需迭代.LLE算法归结为稀疏矩阵特征值计算,计算复杂度相对较小,容易执行.第17页，共40页，星期日，2025年，2月5日LLE算法的缺点LLE算法要求所学习的流形只能是不闭合的且在局部是线性的.LLE算法要求样本在流形上是稠密采样的.LLE算法中的参数K,d有过多的选择.L