第4章 节 时间序列模型 系统建模理论与方法 .pptxVIP

第4章 时间序列模型4.1　趋势外推模型4.2　ARMA模型4.3　CARMA模型4.4　小结4.3.2　CARMA模型的结构识别1.基于残差平方和的结构判别法2.根据残差序列判定模型结构3.根据信息量判定模型结构1.基于残差平方和的结构判别法用J表示残差的平方和。一般来讲，在残差中包含两种误差：一种是系统误差，认为主要是由模型结构引起的；另一种是随机误差，也就是由干扰引起的误差。那么J=Js+Jr式中，Js表示系统误差;Jr表示随机误差。2.根据残差序列判定模型结构图4-3　J—m曲线2.根据残差序列判定模型结构图4-4　不同阶次模型的残差相关分析图1.无偏性分析在公式(4-62)中，由于矩阵Φ中含有随机分量，进行统计分析不很方便，令Φ＝Φxu+Φξ式中，Φxu为确定性分量组成的矩阵；Φξ为随机分量组成的矩阵。那么，在推导式(4-62)的过程中的式ΦTΦθ^n＝ΦＴY就可以写成［ΦTxuΦxu+ΦTxuΦξ+ΦTξΦxu+ΦTξΦξ］θ^n＝(ΦTxu+ΦTξ)Y(4-63)对式(4-63)两边取均值，并近似认为θ^n与ξ相互独立，考虑E(Φξ)＝０，有ΦTxuΦxuE(θ^n)+E(ΦTξΦξ)E(θ^n)＝ΦTxuE(Y)+Ｅ(ΦTξY)或E(θ^n)＝(ΦTxuΦxu)-1［ΦTxuE(Y)+Ｅ(ΦTξY)-E(ΦTξΦξ)E(θ^n)］＝θ+(ΦTxuΦxu)-1［Ｅ(ΦTξY)-E(ΦTξΦξ)E(θ^n)］(4-64)从式(4-64)可以看出，一般来讲对于CARMA模型最小二乘法得不到无偏估计，即使噪声为白噪声，也不能肯定参数估计值的无偏性，除非能够证明Ｅ(ΦTξY)＝E(ΦTξΦξ)E(θ^n)(4-65)然而由于噪声的分布函数不知道，所以很难证明式(4-65)。进一步研究表明，式(4-65)是否成立与参数｛aj,j=1,2,…,m｝的估计值j在计算中的收敛速度有关，当n→∞时，若｛aj-Ej｝是1/n的高阶无穷小，那么θ^n是渐进无偏的。2.协方差函数分析设噪声ξ(k)的协方差矩阵为Rξ=E［ξξＴ］＝E［ξ(1)ξ(1)］E［ξ(1)ξ(2)］…E［ξ(1)ξ(n)］E［ξ(2)ξ(1)］E［ξ(2)ξ(2)］…E［ξ(2)ξ(n)］???E［ξ(n)ξ(1)］E［ξ(n)ξ(2)］…E［ξ(n)ξ(n)］参数估计误差为θ～＝θ^-θ那么cov［θ～］＝E［θ～θ～Ｔ］＝E［(ΦTΦ)-1ΦTξξＴΦ(ΦTΦ)-1］　　　＝(ΦTΦ)-1ΦTRΦ(ΦTΦ)-1(4-66)从式(4-66)看出，参数估计误差θ～的协方差矩阵并不是Fisher信息矩阵的逆矩阵，因此CARMA模型的最小二乘估计不是有效估计量。采用下面两种方法可以改进参数估计量的特性。3.辅助变量法为了消除随机干扰引起的估计误差，构造一个新的变量，使它与噪声不相关，但是与有用信息相关，称之为辅助变量。用辅助变量处理方程式(4-61)，可以得到一个与式(4-62)类似的求解公式，但是新的解法可以得到一个无偏的估计量。设辅助变量组成矩阵Ψ∈Rn(2m+1)，并且Ψ满足条件E［ΨTξ］＝limn→∞1nΨTξ＝０(4-67)E［ΨTΦ］＝limn→∞1nΨTΦ＝H(4-68)式中，n为数据长度；m为模型阶次；H为非奇异矩阵。用ΨT左乘式(4-62)的两边，得到ΨTY＝ΨTΦθ+ΨTξ(4-69)用最小二乘法求解式(4-69)确定的参数估计问题，得到的参数估计为θ^n＝(ΨTΦ)-1ΨTY(4-70)其估计误差为n＝(ΨTΦ)-1ΨTξ(4-71)利用式(4-67)和式(4-68)很容易证明式(4-70)表达的参数估计值的一致性和渐进无偏性。4.扩充最小二乘法认为式(4-61)中的有色噪声由自回归模型ξ(k)=ε(k)+c1ε(k-1)+…+cmε(k-m)(4-72)描述，其中序列｛ε(k)｝为白噪声。把参数c1,c2,…,cm也放入参数向量θ中，就构成了扩充最小二乘模型。使用扩充最小二乘法的关键是估计白噪声序列｛ε(k)｝，可以采用处理AR模型的方法，先估计不含噪声模型参数c1,c2,…,cm的参数向量θ^′θ^′=［′1，′2，…,′m，b^′0,b^′1,…,b^′m］Ｔ然后计算第一次噪声向量的估计值′＝Y-Φθ^′(4-73)式中，′是由噪声估计值序列｛′(k),k=1,2,…,n｝构成的向量。建立模型y(k)=ΦT(k)θ+ε(k)(4-74)式中，θ＝［a1,a2,…,am,b0,b1,…,bm,c1,c2,…,cm］ΦT(k)=［-y(k-1),…,-y(k-m),u(k),…,u(k-m),′(k-1),…,′(k-m)］用最小二乘法求解式(4-74)的模型参数θ，得到第一次参数估计值θ^1以后，利用式(4-73)对噪声进行新的估计，得到