等轴双曲线-共轭双曲线.docVIP

等轴双曲线-共轭双曲线 共轭方向法　　共轭方向法 　　引言 　　本节之后的方法大多属于共轭方向法。共轭方向的概念 　　若两个向量XRn，YRn，满足如下关系： 　　XTAY=0 　　(3-6-1) 　　其中，A为n×n的对称正定阵，则称X和Y是关于A共轭的，X和Y称之为共轭方向。注意：若 　　XTY=0，则称X与Y正交。实际上，共轭是正交的推广。 　　例1：有两个二维向量S1是否正交？ 　　解： 　　?1??1??2=??，S2=??，A=??1???1??11? 　　，判断S1与S2是否关于A共轭，2?? 　　S1TAS2=[1S1TS2 　　=[1 　　?2 　　1]???11??1? 　　???=0，因此，S1与S2关于A共轭。?2???1? 　　?1? 　　1]???=0，因此，S1与S2正交。 　　??1? 　　共轭向量的概念 　　如果有m个n维向量S1,S2,S3,...,Sm，满足 　　T??SiASj=0?T??SiASj≠0 　　(i≠j) 　　,且A正定(i=j) 　　(3-6-2) 　　则称这m个向量是A的共轭向量。如果共轭向量的几何意义 　　设目标函数为 　　A为n维单位阵，则称这m个为正交向量。 　　F(X)=1XTAX+BTX+C 　　其中，A为n×n阶的对称正定阵。F(X)的梯度为： 　　(3-6-3) 　　?F(X)=AX+B 　　(3-6-4) 　　设从某点 　　X0出发，沿P0方向进行搜索得到F(X)的极小点X1，则有 　　?F(X1)TP0=(AX1+B)TP0=0 　　(3-6-5) 　　设从某点 　　X0出发，仍沿P0方向进行搜索得到F(X)的极小点X2，则有 　　?F(X2)TP0=(AX2+B)TP0=0 　　(3-6-6) 　　式(3-6-6)减(3-6-5)，可得： 　　(X2?X1)TAP0=0 　　这说明(X2 　　(3-6-7) 　　?X1)与P0是关于A共轭的。 　　共轭方向法的原理 　　T??SiASj=0 　　考虑m个n维向量S1,S2,...,Sm，满足?T 　　??SiASj≠0 　　(i≠j) 　　,且A正定，则这m个向量一定 　　(i=j) 　　是线性无关的。用反证法。 　　假设S1,S2,...,Sm线性相关，则一定存在一组不全为0的一组数?1,?2,...,?m，满足 　　?1S1+?2S2+...+?mSm=0 　　则有 　　(3-6-8) 　　SiTA(?1S1+?2S2+...+?mSm)= 　　?1SiTAS1+?2SiTAS2 　　其中，i 　　+...+?mSiTASm 　　=0 　　(3-6-8) 　　=1,2,...,m。因此有：SiTASi=0，但这与原假设不符。因此，一定可以得出S1,S2,...,Sm 　　线性无关的结论。 　　注意：在n维空间中的任意向量，均可以用n个线性无关的n维向量表示，也可以说，n维是由n个线性无关的n维向量张成的。那么，设目标函数点为 　　f(X)的极小点为X*，初始 　　X0，S0,S2,...,Sn?1为关于A的n个共轭向量，则有： 　　X*?X0=?0S0+?1S1+...+?n?1Sn?1 　　(3-6-9) 　　将式(3-6-9)写成差分格式： 　　?Xk+1= 　　?X= 　　k?? 　　?? 　　?X=?2??X1= 　　Xk+?kSk 　　Xk?1+?k?1Sk?1 　　(3-6-10) 　　X1+?1S1X0+?0S0 　　式中，k 　　=0,1,...,n?1，表示经过k+1次迭代后，Xk+1→X*。该式表明，Xk+1为目标函数沿 　　Sk方向的一个极小点，则有： 　　?F(Xk+1)TSk=?F(Xk+?kSk)TSk=0 　　即 　　(3-6-11) 　　[A(Xk+?kSk)+B]TSk= 　　(AXk+B)Sk+?kSASk=?F(Xk)Sk+?kSASk=0 　　即可推导出： 　　T 　　Tk 　　T 　　Tk 　　(3-6-12) 　　??F(Xk)TSk 　　?k=T 　　SkASk 　　式(3-6-13)表明，如果能够构造出一系列共轭向量Sk(k步迭代，可以求得 　　(3-6-13) 　　=1,2,...,n?1)，则可以求出?k，那么经过k 　　Xk+1。对于二次函数，k=n。 　　22 　　minf(X)=x1+25x2 　　例2求解解： 　　首先，构造二次型： 　　f(x)= 　　1T 　　XAX+BTX+C2 　　?20??x1?1 　　=[x1x2]?????x?+0?X+00502???2? 　　即A= 　　?2 　　?0?0? 　　，B=0，C=0。?50? 　　取X0 　　=[2,2]T，取第0个搜索方向为： 　　?20??2??4? 　　S0=??F(X