参数估计的改进算法.doc

第三章 参数估计的改进算法 §3—1　最小二乘方法的改进—辅助变量法 （I V法 Instrument Variable ） 辅助变量法是在模型误差为相关噪声的情况下，通过引进辅助变量矩阵，对线性最小二乘估计的一种改进。 一、参数的辅助变量估计 考虑模型 式（3- 1- 1） 其中： 当进行了 k = 1-n,2-n,..,0,1,2,…,N 共计（N+n）次采样，得到N个方程： 用矩阵表示成 y N = (N ( + e N 式（3 -1- 2） 其中 e N = [e(1),….,e(N)]T 最小二乘估计为：( LS =（( N T ( N）-1 ( N T y N 设（( N T ( N）满秩，将过程模型式（2-3-2）带入上式，得出：( LS =（( N T ( N）-1 ( N T（(N ( + e N） 式（3-1- 3） 有： 和 令： (((= E [ (k (kT]2n(2n 式（3 -1- 4） 和 ((e= E [ (k e(k) ]2n(1 式（3 -1- 5） 可以证明：当N ( ( 时 式（3-1- 6） 式（3-1- 7） 依据 Frechek 定理： 若随机序列 xK (( ( ， 则 f(xK) ((f( ( ) 故有：( LS (( ( + [ ((( ]-1[ ((e ] 式（3 -1- 8） 如果：((( 满秩，且((e = 0 ，则 ( LS (( ( 为一致性无偏估计，如((e ( 0 ，则 ( LS (( ( +( ( 为有偏估计。 分析((e= E [ (k e(k) ] (k = [ -y(k-1),…,-y(k-n),u(k-1),…,u(k-n) ]T, 即 ((e不仅依赖于e(k)，也依赖于e(k-1)、e(k-2)….，如果 { e(k) } 是白噪声，e(k) 与e(k-1)、e(k-2)….不相关，则 ((e = 0 ， ( (( ( 如果{ e(k) } 是有色噪声, 则 ((e ( 0， ( (( (+( ( 问题：如何在有色噪声干扰条件下得到无偏估计？ 通过构造一个与( N相似，但是能满足以下关系的矩阵ZN(2n , 使得当N (( ( 时能满足 满秩 式（3-1- 9） 式（3 -1- 10） 则：( IV =（Z N T ( N）-1 Z N T y N (( ( (无偏估计) 其中：( IV——I V 估计；Z N——I V 矩阵。 对应的 关键在于如何具体构造出辅助变量矩阵ZN 。人们已经得出几种不同的方案，要严格证明它们满足上述条件是很难的，但是在实际应用中已经取得很好的结果。方案之一是用( LS 得出的模型的计算输出量代替(中的实测输出组成 z 和Z ,即： z kT=[ -y(k-1),..,-y(k-n),u(k-1),…,u(k-n)] 式（3-1-11） 其中：y(k)= z kT ( LS 式（3-1-12） 对比：( kT=[ -y(k-1),..,-y(k-n),u(k-1),…,u(k-n)] 二、I V 法的计算步骤 a) 先用LS法估计出 ( LS b) 由 ( LS 用式（2-3-12）计算出 { y(k) } k=1,2,…N 组成矩阵 Z N c) 计算 ( IV =（Z N T ( N）-1 Z N T y N 式（3-1-12） 三、递推辅助变量算法（R I V 法） R I V 法是在 I V 法思路启发下得出的，它并不与I V法等价。R I V 法由以下几个递推公式组成： ( N+1 = ( N+ K N+1(y(N+1) – (N+1T ( N) 式（3-1-13） 式（3-1-14） 式（3-1-15） (N+1T = [-y(N)，( -y(N-n+1) , u(N) ，( , u(N-n+1) ] zN+1T = [-y(N)，( -y(N-n+1) , u(N) ，( , u(N-n+1) ]