矩阵论第六_广义逆矩阵.ppt

第六章 广义逆矩阵 知识要点 投影矩阵 广义逆矩阵 相容方程组的最小范数解 矛盾方程组的最小二乘解 矛盾方程组的最小范数最小二乘解 总体最小二乘技术 §6.1投影矩阵 一、投影算子与投影矩阵 设L和M都是Cn的子空间，且L?M=Cn ．于是任意x?Cn都可唯一分解为x=y+z，y?L，z?M，称y是x沿着M到L的投影． 1. 定义 将任意x?Cn变为沿着M到L的投影的变换称为沿着M到L的投影算子，记为PL,M，即 PL,M x=y。 显然， R(PL,M)=L， N(PL,M)=M． 投影算子PL,M是一个线性算子。 二、正交投影算子与正交投影矩阵 1.定义：设L是Cn的子空间，则称沿着L?到L的投影算子PL,L?为正交投影算子，简记为PL；正交投影算子在Cn的基e1,…,en下的矩阵称为正交投影矩阵，记为PL ． 2. 定理 矩阵P为正交投影矩阵的充要条件是P为幂等Hermite矩阵． 证：若P=PL是正交投影矩陈, 由前述定理知，它是幂等矩阵。把任意x?Cn分解为x=y+z，y?L，z?L?，则PLx=y?L，(I-PL)x = z? L?使得PLx正交于(I-PL)x，即xHPLH(I-PL)x=0，x的任意性使得 PLH(I-PL)= O，即 三、正交投影原理及其应用 1.正交投影原理 令M是向量空间H的子空间，如果对于H中的向量 x，在M中有一向量x，使得x-x正交于M中的所有向量y，即(x-x,y)=0，则||x-x||?||x-y||对于所有向量y?M都成立，并且等号仅当y= x时成立。 证：||x-y||2=||x-x+x-y||2=||x-x||2+2(x-x, x-y)+||x-y||2，故(x-x, x-y)=0使得||x-x||2?||x-x||2+||x-y||2=||x-y||2并且等号仅当 y=x 时成立。 2.x=PMx为x在M的投影，x-PMx为x在M?的投影。 3.W-H方程：使用线性滤波d=(h,x)从观测随机向量x估计希望信号d，则由(d-(h,x), x)=0有W-H方程rdx=Rxxh，其中互相关向量rdx= (d,x)=E(d,x)，自相关矩阵Rxx=E(xxT) 。 四.子空间分析 1.观测空间：观测x=信号s+噪声n，其中s与n不相关，观测矩阵X=信号矩阵S+噪声矩阵N =(x1,…,xn)，观测空间Span(X)=Span{x1,…,xn} 2.信号子空间和噪声子空间解：RX=E(XTX)=RS+RN，其中假设噪声独立同 分布使得RN=E(NTN)=?n2I和 RS=E(STS)秩r使得RS=US?SUST?RX=US?SUST+ ?n2I =US(?S +?n2I)UST =UX?XUXT ? UX = US和?X=?S +?n2I,令UX=[u1,…,un]，BS=[u1,…,ur]， BN=[ur+1,…,un]，则称 Span(BS)和Span(BN)分别为信号子空间和噪声子空间。 3. {?s1+?n2,…,?sr+?n2}为主特征值， ?n2为次特征值 于是有基于噪声子空间的功率谱估计P(?)=1/||BNHa(?)||2 ，?所有的?。其r个峰值给出了r个复正弦频率。 由于BN BNT =I-BSBSH，其中RX-?n2I=BS?SBSH，于是有基于信号子空间的功率谱估计P(?)=1/(a(?)H(I-BSBSH)a(?))。 用哪个取决于哪个子空间有较小的维数。 §6.2 广义逆矩阵定义及其性质 定义：设矩阵A?Cm?n，若矩阵X?Cn?m满足如下四个方程 AXA=A XAX=X (AX)H=AX (XA)H=XA 中的一个或几个，则称为矩阵A的广义逆；若四个方程全部满足，则称为矩阵A的Moore-Penrose逆，记为A+。 定理一：矩阵A?Cm?n的广义逆A+存在且唯一。 证明：先证存在性。设矩阵A的满秩分解为 A=BC，定义 定理二：设矩阵A给定，则A+满足如下性质 rank A+=rank A (A+)+=A (AH)+=(A+)H, (AT)+=(A+)T (AHA)+=A+(AH)+, (AAH)+=(AH)+A+ A+=(AHA)+AH=AH(AAH)+ R(A+)=R(AH), N(A+)=N(AH) 推论：若A?Cnm?n ，则A+=(AHA)-1AH 若A?Cmm?n ，则A+=AH(AAH)-1 矩阵A广义逆A+的等价定义: AA+=PR(A), A+A=PR(A+)。 即 AA+=PR(A), A+A分别为R(A)和R(A+)上的正交矩阵。更有： AA{1}、A{1}A、AA{2}、A{2}A 均为幂等矩阵 §6.3 广义逆矩阵A+的计算方法 满秩分解：设A?Crm?n，A=B