矩阵分析课件chapter2 范数理论及其应用例题详解.docVIP

第2章 范数理论及其应用 2.1向量范数及lp范数 定义：如果V是数域K上的线性空间，且对于 V的任一向量x，对应一个实数值||x||，它满足 以下三个条件： 1)非负性： ||x||?0,且||x||=0? x=0; 2)齐次性：||k?x||=|k|?||x||， k?K； 3)三角不等式：||x+y||?||x||+||y||. 则称||x||为V上向量x的范数，简称为 向量范数。 注意：2)中|k|当K为实数时为绝对值， 当K为复数域时为复数的模。 虽然向量范数是定义在一般的线性空间上的， 但是由于前面的讨论，我们知道任何线性空间 在一组基下都代数同构于常用的n维向量空间， 因此下面我们仅仅讨论n维向量空间就足够了。 范数首先是一个函数，它将线性空间的任意 向量映射为非负实数。 范数与函数 性质1. 范数是凸函数。 即 || (1??)x+?y||?(1??)||x||+?||y|| 其中 0? ? ? 1。 向量的范数类似于向量长度。 性质2. 若||?||为线性空间V上的向量范数， 则k||?|| 仍然为向量范数, 其中k 0. 性质3. 若||?||f和||?||g为线性空间V上的两个 向量范数，则 (1). ||?||f + ||?||g 为V上向量范数。 (2). max{ ||?||f , ||?||g } 为V上向量范数。 性质4. 若||?||f和||?||g分别为线性空间V上 两个线性交集为0的子空间V1和V2上的 两个向量范数，则对任意x?V1?V2,存在 唯一分解 x= u+v, 其中u?V1,v?V2, 定义||x||1=||u||f + ||v||g ,||x||2=max{||u||f ,||v||g} 则||x||1和||x||2为V1?V2上的向量范数。 性质5. (范数与凸集) 若||?||为线性空间V上的 向量范数，集合?={x: ||x||? 1}为V上凸集。 反之，若?为V上的均衡闭凸集，即 x??,则??x??,其中|?|?1.其中?含有内点， 即包含一个小的单位球。则可以定义函数P(x) 如下：当x?0时，P(x)= min {? 0:x/??? } 当x=0时，P(x)=0.则P(x)为V上的范数。 证明：1). 显然 P(x) ? 0, 且P(0)=0. 下面我们证明若P(x)=0, 则x=0; 用反证法， 设x?0， 则由P(x)的定义，任给?P(x)=0, 则有x/???。 有因为?为有界集。即存在常数M0 使得 对任意y??, ||y||?M. 其中 ||?||为某一给定的范数。 令y=x/?,则得到||x/?||?M,即||x||???M,由于?为任意 大于0的数，若令??0 则有||x||=0。因||?||为范数， 从而 x=0. 这样，我们就证明了1). 2). 若x=0, 则P(k x)=k P(x)显然成立。 假设x?0, 由于x/P(x)??,且 任何??P(x), x/???; 而任何? P(x), x/???. 显然 k x/P(kx)??, 则[(k/|k|)?{x /[ P(kx)/|k|] }?? 注意k/||k||的幅度为1,从而有?的均衡性， 我们有x /[ P(kx)/|k|]??， 这样由定义有 P(x)?P(kx)/|k|, 即 |k|?P(x)?P(kx). (?) 同样由于x/P(x)??,注意到k/||k||的幅度为1， 从而(kx)/(||k|| P(x) )??,由定义有 P(kx)? |k|?P(x) (?) 联合(?)和(?)， 我们有P(kx)=|k| P(x). (3). 设x?0,y?0, 则x/P(x)??, y/P(y)??, 令?=P(y)/(P(x)+P(y)), 由于?为凸集， 从而 (x+y)/(P(x)+P(y))=(1??)? x/P(x)+?? y/(P(y)??, 这样有P(x+y)的定义，我们有 P(x+y)?P(x)+P(y). 当x和y有一个或全部为0时，显然三角不等式 仍然成立。 联合1), 2)和3), 从而P(x)为范数。 这个性质说明了范数和均衡凸集之间的 一一对应关系。 均衡凸集与范数 例1: 向量的p范数： ||x||p={|x1|p+|x2|p+…+|xn|p}1/p 取p=1,2,和?便分别得到1范数，2范数和?范 数。 即 ||x||1=|x1|+|x2|+…+|xn| ||x||2={|x1|2+|x2|2+…+|xn|2}1/2 ||x||?=maxi |xi| 其中||?||2范数为由内积导出的范数。 Holder不等式 p,q1, 1/p+1/q