流形学习与图像处理.ppt

* * * * * * * * * * * * * * * * * * * * 北航自动化科学与电气工程学院 School of Automation And Electrical Engineering 流形学习与图像处理 报告人： 邹宇华 日期：2010年09月18日 自动化科学与电气工程学院 目录 流形简介 1 流形学习与降维分析 2 流形学习算法简介 3 流形学习的问题与前景 4 自动化科学与电气工程学院 一、流形(Manifold)简介 天地有正气，杂然赋流形 —— 文天祥《正气歌》 直观上来讲，一个流形好比是一个 d 维的空间，在一个 m 维的空间中 (m d) 被扭曲之后的结果。 流形并不是一个“形状”，而是一个“（拓扑）空间”。 广义相对论就是把我们的时空当作一个四维流形（空间三维加上时间一维）来研究的，引力就是这个流形扭曲的结果。 一个 d 维的流形就是一个在任意点处局部同胚于（i.e. 正逆映射都是光滑的一一映射）欧氏空间 Rd 。 自动化科学与电气工程学院 一、流形(Manifold)简介 外围空间（ambient space）： 描述流形上的点要用坐标，而流形上本身是没有坐标的，所以必须把流形放入外围空间（ambient space）中，流形上的点就可以用外围空间的坐标来表示。 R3中的球面：2维曲面，两个自由度，球面上的点用外围R3空间中的坐标表示，即由3个数来表示。 内蕴坐标（intrinsic coordinate）： 保持球面上点某些几何性质，找到一组对应的内蕴坐标（intrinsic coordinate）表示，这个过程也叫参数化（parameterization）。 在PAMI中，这样的低维表示也叫内蕴特征（intrinsic feature）。一般外围空间的维数也叫观察维数，其表示也叫自然坐标（外围空间是欧式空间）表示，在统计学中一般叫observation。 自动化科学与电气工程学院 一、流形(Manifold)简介 人脸模型的特征降维分析： 64*64 Gray Image —— 4096 维向量 一张图 = 4096维欧氏空间的一个点 假定4096 维向量实际上分布在一个 d 维 (d 4096) 的子空间。 Pose: Up-Down, Left – Right Lighting —— 3个自由度 嵌入在 4096 维欧氏空间中的一个 3 维流形 自动化科学与电气工程学院 一、流形(Manifold)简介 流形的基本概念 拓扑(Topology) ： 集合 X 上的拓扑 τ 是 X 的满足以下性质子集族: τ 对属于它的任意多元素的并集是封闭的; τ 对属于它的有限多元素的交集是封闭的; Φ∈ τ 且 X∈ τ, 称 (X, τ) 是一个拓扑空间. Hausdorff 空间： 如果对空间 (X, τ) 中的任意两点 x ≠ y，存在 A ∈ε(x) 和 B ∈ε(y) 使得A∩B = Φ，则称 (X, τ) 是一个 Hausdorff 拓扑空间. 流形： 设 M 是一个 Hausdorff 拓扑空间，若对每一点 p∈ M 都有 P 的一个开邻域 V 和 Rn 的一个开子集同胚, 则称M为n维拓扑流形, 简称为 n 维流形. 自动化科学与电气工程学院 一、流形(Manifold)简介 流形的基本概念 坐标卡(Chart)： 假定 是同胚，其中 是 Rn 中的开集, 则称 为流形 M 的一个坐标卡(chart)，并且把 在 Rn 中的坐标称为点p∈V 的坐标， 流形在本质上是局部可坐标(参数)化的拓扑空间. Cr 相关： 设 是 n 维流形 M 的两个坐标卡。 若当 时, 和它的逆映射都是 r 次可微的, 则称 是 Cr 相关的. 自动化科学与电气工程学院 一、流形(Manifold)简介 流形的基本概念 微分结构： 设 M 是 n 维流形，假定 是 M 上坐标卡的一个子集合，且满足以下条件: 构成 M 的一个开覆盖; (2) 属于 Λ 的任意两个坐标卡都是 Cr 相关的; Λ 是极大的, 则称 Λ 是 M 上的一个 Cr 微分结构. Cr 微分流形： 设 M 是 n 维流形, 若在 M 上指定了一个 Cr 微分结构 Λ ,则称 (M, Λ) 为一个 n 维