李群与机器学习.docxVIP

李群在机器学习中的应用 李群是群的一部分，并且因为有拓扑结构，有限群的结果可以扩展到紧李群。李群在单位元 处的切空间定义了李代数，李代数也是研究非交换代数，非交换几何的重要手段之一（李代 数研究的就是交换子，交换子不为零等价于非交换）。因此李理论在表示论中，以及在整个数学中，也很重要。李群既是一个群，又是一个微分流形，能够在群操作下保持光滑结构．近 年来，李群不再局限于数学领域的理论研究，这类连续变换群也被许多计算机领域的学者所 熟知。 李群在计算机视觉与机器学习中的应用 1999年Rajesh P.N.Rao 和Daniel L.Ruderman提出了基于李群理论的一个贝叶斯方法来学习不变的视觉感知，运用基于指数矩阵的图像生成模型，从包含极小变换的输入数据得到一个学习李群算子的非监督学习算法。 Venu Madhav Govindu使用运动表示的内在李群结构来求平均，用特殊正交群SO(3)和特殊欧几里德群SE(3)的李代数来定义李群上的平均值，提出了全局相容运动估计的李代数求均值法。此方法能够线性计算所有可能的相对运动以及对运动估计快速求平均。 David McG. Squire提出了一种新的二维轮廓的不变特征：不变信号。它是对在从李变换群中得到的许多变换下的轮廓不变程度的度量。其中李群理论提供了在一个变换动作下，点位置的局部变换和此变换的全局描述的一种联系，并提供了自然的起始点，说明了不变信号在转移、旋转和轮廓缩放后本身保持不变。 目标识别要求寻找那些在特征空间中是唯一的、健壮的和稳定的特性。 D. Gregory Arnold提出用李群分析来寻找这些特性并基于李群理论提出了支配子空间不变量的概念和拟不变量的一种特殊类型并给出了支配子空间不变量(DSI)算法。 机器学习是人工智能和计算机科学研究的一个永恒的课题。目前比较公认的关于机器学 习概念的说法是Simon对学习的阐述：“如果一个系统能够通过某个过程而改进它的性能， 这就是学习。”这个说法的要点是：其一，学习是一个过程；其二，学习是对一个系统而言的；其三，学习能够改变系统性能。即“过程”、“系统”与“改变性能”是学习的三个要点。由此可知，李群的定义和机器学习的定义有着对应的关系，即李群本身就是一个非空的 集合且是一个系统，学习过程对应一个可微映射，然后通过解析性质来降低数据维数、处理 学习问题，从而达到改变系统性能的目的。 相关概念介绍 定义1. 微分流形的定义 微分流形（differentiable manifold），也称为光滑流形（smooth manifold），是拓扑学和几何学中一类重要的空间，是带有微分结构的拓扑流形。 微分流形是微分几何与微分拓扑的主要研究对象，是三维欧式空间中曲线和曲面概念的推广，可以有更高的维数，而不必有距离和度量的概念。 具体说来,设M是一个豪斯多夫拓扑空间。U是M的开集,h是U到n维欧氏空间R的开集(常取为单位球内部或立方体内部等等)上的一个同胚映射,则(U，h)称为一个坐标图,U称为其中 ?点的一个坐标邻域。设M为开集系{U? }所覆盖,则(U? , h ? )的集合称为M的一个坐标图册。 如果M的坐标图册中任何两个坐标图都是 C相关的,则称M有C微分结构,又称M为n维的C微分流形。 定义2. 李群的定义 设Ｇ是一个非空集合，满足： （１） Ｇ是一个群； （２） Ｇ也是一个微分流形； ?（３） 群的运算是可微的，即由G×G到G的映射?g , g ? g g ?1 是可微的映射。 ? 1 2 1 2 则称Ｇ是一个李群（Lie group） 李群机器学习与传统机器学习方法的不同是李群机器学习采用李群结构对数据或特征进行 表示并利用群作用来处理对数据的操作．微分流形的几何性质可以用来便捷地描述数据，群的代数性质能够提供具体的求解方案，这使得李群机器学习的思想得以形成． 定义3. 李群机器学习。 一般用G表示输入空间，M表示输出空间。令G ? RD , M ? Rd , D ? d ,借用李群的定义将G对M 的左作用可用如下映射? 表示： 满足： ? : G ? M ? M （１） 对于所有的 x ? M ,??e, x?? x ； （２） 对于所有的 g, h ? G和x ? M ,??g,??h, x ?? ??gh, x?。 G对M的右作用可用如下映射? 表示： ? : G ? M ? M 满足： （１） 对于所有的 x ? M ,? ?e, x?? x ； （２） 对于所有的 g, h ? G和x ? M ,? ?? ?x, g ?, h??? ?x, gh?。 李群机器学习模型 基于李群的表示 李群机器学习利用机器学习方法处理具有李群结构的数据．然而，并不是所有特征都自 然地具备李群结构．若要应用基于李群的