II拓扑学微分几何代数泛函分析概率论.docVIP

II 拓扑学 微分几何 、代数、 泛函 分析、概率论 MIT的IT牛人谈数学体系(II):拓扑学(微分几何)、代数、泛函分析、概率论2011-01-1416:56 (续前文)微分几何:流形上的分析--在拓扑空间上引入微分结构 拓扑学把极限的概念推广到一般的拓扑空间，但这不是故事的结束，而仅仅是开始。在微积分里面，极限之后我们有微分，求导，积分。这些东西也可以推广到拓扑空间，在拓扑学的基础上建立起来--这就是微分几何。从教学上说，微分几何的教材，有两种不同的类型，一种是建立在古典微机分的基础上的古典微分几何，主要是关于二维和三维空间中的一些几何量的计算，比如曲率。还有一种是建立在现代拓扑学的基础上，这里姑且称为现代微分几何--它的核心概念就是流形(manifold)--就是在拓扑空间的 基础上加了一套可以进行微分运算的结构。现代微分几何是一门非常丰富的学科。比如一般流形上的微分的定义就比传统的微分丰富，我自己就见过三种从不同角度给出的等价定义--这一方面让事情变得复杂一些，但是另外一个方面它给了同一个概念的不同理解，往往在解决问题时会引出不同的思路。除了推广微积分的概念以外，还引入了很多新概念:tangentspace,cotangentspace,pushforward,pullback,fibrebundle,flow, immersion,submersion等等。 近些年，流形在machinelearning似乎相当时髦。但是，坦率地说，要弄懂一些基本的流形算法，甚至创造一些流形算法，并不需要多少微分几何的基础。对我的研究来说，微分几何最重要的应用就是建立在它之上的另外一个分支:李群和李代数--这是数学中两大家族分析和代数的一个漂亮的联姻。分析和代数的另外一处重要的结合则是泛函分析，以及在其基础上的调和分析。 代数:一个抽象的世界 关于抽象代数 回过头来，再说说另一个大家族--代数。 如果说古典微积分是分析的入门，那么现代代数的入门点则是两个部分:线性代数(linearalgebra)和基础的抽象代数(abstractalgebra)--据说国内一些教材称之为近世代数。 代数--名称上研究的似乎是数，在我看来，主要研究的是运算规则。一门代数，其实都是从某种具体的运算体系中抽象出一些基本规则，建立一个公理体系，然后在这基础上进行研究。一个集合再加上一套运算规则，就构成一个代数结构。在主要的代数结构中，最简单的是群(Group)--它只有一种符合结合率的可逆运算，通常叫乘法。如果，这种运算也符合交换率，那么就叫阿贝尔群(AbelianGroup)。如果有两种运算，一种叫加法，满足交换率和结合率，一种叫乘法，满足结合率，它们之间满足分配率，这种丰富一点的结构叫做环(Ring)，如果环上的乘法满足交换率，就叫可交换环(CommutativeRing)。如果，一个环的加法和乘法具有了所有的良好性质，那么就成为一个域(Field)。基于域，我们可以建立一种新的结构，能进行加法和数乘，就构成了线性代数(Linearalgebra)。 代数的好处在于，它只关心运算规则的演绎，而不管参与运算的对象。只要定义恰当，完全可以让一只猫乘一只狗得到一头猪:-)。基于抽象运算规则得到的所有定理完全可以运用于上面说的猫狗乘法。当然，在实际运用中，我们还是希望用它干点有意义的事情。学过抽象代数的都知道，基于几条最简单的规则，比如结合律，就能导出非常多的重要结论--这些结论可以应用到一切满足这些简单规则的地方--这是代数的威力所在，我们不再需要为每一个具体领域重新建立这么多的定理。 抽象代数有在一些基础定理的基础上，进一步的研究往往分为两个流派:研究有限的离散代数结构(比如有限群和有限域)，这部分内容通常用于数论，编码，和整数方程这些地方;另外一个流派是研究连续的代数结，通常和拓扑与分析联系在一起(比如拓扑群，李群)。我在学习中的focus主要是后者。 线性代数:线性的基础地位 对于做Learning,vision,optimization或者statistics的人来说，接触最多的莫过于线性代数--这也是我们在大学低年级就开始学习的。线性代数，包括建立在它基础上的各种学科，最核心的两个概念是向量空间和线性变换。线性变换在线性代数中的地位，和连续函数在分析中的地位，或者同态映射在群论中的地位是一样的--它是保持基础运算(加法和数乘)的映射。 在learning中有这样的一种倾向--鄙视线性算法，标榜非线性。也许在很多场合下面，我们需要非线性来描述复杂的现实世界，但是无论什么时候，线性都是具有根本地位的。没有线性的基础，就不可能存在所谓的非线性推广。我们常用的非线性化的方法包括流形和kernelization，这两者都需要在某个阶段回归线性。流形需要在每