第九章时间序列分析课件.pptVIP

第九章 时间序列分析 第一节时间序列基础－预测知识 一 线性最小二乘法（Linear Least Squares Prediction, LLS) 假设X和Y是两个散点分布的随机变量，它们具有某种联合分布。它们的期望、方差、协方差分别是： X μx E Y = μy X –μx X –μx E Y- μy Y- μy = R S S Q 其中，X的期望E(X)= μx , Y的期望E(Y)= μy , X的方差E(X- μx)2=R Y的方差E(Y- μy) 2 =Q COV(XY)=E(X- μx)(Y- μy)=S 现假设我们可以观测到X的一组值，如何预测Y呢？即如何利用X推知Y，假设只知道它们的期望、方差和协方差。我们可以利用这些已知条件求出Y的线性最小二乘估计值。 假设这一线性形式为： Yhat=a+b(X- μx) 我们的任务是在使平均平方误差（均方误）最小的情况下求出a和b的值。 MSE=E[Y-Yhat]2 =E[Y-a-b(x- μx)] 2 =E{[(Y- μy)-(a- μy)-b(X- μx)]} 2 =E(Y- μy)2+E(a- μy) 2 +b 2 E(X- μx) 2 -2E(Y- μy)(a- μy)+2bE(X- μx)(a- μy) -2bE(Y- μy)(X- μx) =Q+ (a- μy) 2 + b 2 R-2bS 分别对a和b求导，令其为零 2（ a- μy ）=0,所以a= μy, 2bR-2S=0, b=S/R=SR-1 所以，Yhat= μy + SR-1(X- μx) [也可以写成： Yhat= μy +[ cov(X,Y)/var(x)]*(X- μx) (X- μx)的系数表明我们所估计Y值受观测值X影响程度的大小，它和X的方差成反比，X、Y的协方差成正比。 二，线性最小二乘估计的特点 1，Y的估计值和Y的期望相同。 证明： E（Yhat）=E[μy + SR-1(X- μx) ]= μy 2,线性转换 如C是任一常数，则CY的LLS估计是CYhat. 证明： 令Z=CY Yhat=a+b(X- μx) 根据定义： Zhat= μz +[cov(X,Z)/var(X) ]*(X- μx) μz =E(CY)=C μy Cov(X,Z)=E(X- μx)(Z- μz) = E(X- μx)(CY- C μy ) =C E(X- μx)(Y- μy ) =C cov(X,Y) 将结果代入定义： Zhat= μz +[cov(X,Z)/var(X) ]*(X- μx) = C μy + C cov(X,Y)/ var(X) ]*(X- μx) =C[μy + cov(X,Y)/ var(X) ]*(X- μx)] =CYhat 3，线性组合 Y1、Y2的LLS估计分别是Y1 hat Y2hat.则Y1+Y2的LLS估计为Y1hat +Y2hat. 证明： 已知： Y1hat= μy1 +S1R-1(X- μx) Y2hat= μy2 +S2R-1(X- μx) 根据定义： Zhat= μz+[cov(XZ)/var(X)](X- μx) μz =E(Y1+ Y2)= μy1 + μy2 , cov(XZ)=E(X- μx)(Z- μz) =E (X- μx)(Y1+ Y2 - μy1 - μy2 ) = E (X- μx)(Y1 - μy1 )+ E (X- μx)(Y2 - μy2 ) =cov(X, Y1)+cov(X, Y2) Zhat= μz+[cov(XZ)/var(X)](X- μx) = μy1 + μy2 + {[cov(X, Y1)+cov(X, Y2)]/var(X)} (X- μx) = Y1hat+ Y2hat 4, MSE(Yhat)=E(Y-Yhat)2 =E[Y-μy -SR-1(X- μx) ] 2 =E(Y-μy ) 2 -2 SR-1E(X- μx) (Y-μy ) +S 2 R-2 E(X- μx) 2 =Q-S 2R -1 第二节时间序列基本概念 一，平稳性定义 任何一个时间序列都可以被看作是由随机过程产生的结果。如果一个随机过程所产生的时间序列均值和方差在任何时间过程上都