最小二乘法详解.ppt

可以证明：在递推 2n 步后，估计结果与前面 介绍的精确初值相接近。 四、计算机仿真 一阶模型  Y(k+1) = 0.9y(k) - 0.5u(k) + ? (k+1) 随机干扰 {? (k)} 取 3 *（r n d - 0.5) 2. LS 法和RLS 法的区别和比较 a) LS 法是一次完成算法，适于离线辩识，要 求记忆全部测量数据，程序长； b)?RLS 法是递推算法，适于在线辩识和时变 过程，只需要记忆 n+1步数据，程序简单； c) RLS 法用粗糙初值，且当N 较小时，估计 精度不如 LS 法。 RLS的问题 一)初值与收敛 二) 数据饱和问题(LS也一样)  对付数据老化的方法 加权 指标，LS算法，RLS算法 窗口 LS算法，RLS算法 加权： 即对每组数据给予不同的对待。 （想要啥结果，你尽管提要求！！！） 具体做法是对第k个采得的数据，给予不同的权重ωk 。 一次性算法（LS）： 递推算法（RLS） 窗口 （限定记忆法） 所用的数据是最新的N组数据 （加权法，不管什么时候的数据都起作用） LS RLS： 比较一下(RLS) 注意由k，…, k+N-1，加数据k+N, 递推.是N+1组数据的结果 * * * * * * * * * * * * * *  ? = (? N T? N + ? N+1? N+1 T)-1 = ( PN-1+ ? N+1? N+1 T)-1 注意到： 令： 易证： ? = (? N T? N + ? N+1? N+1 T)-1 = ( PN-1+ ? N+1? N+1 T)-1 证 矩阵求逆定理 ：若A是n?n满秩矩 阵，B 和C 是n?m 阵，且 (A+BC T)n?n 和 ( I +C T A-1B)m?m 都满秩（I 为m 维单位阵） ，则有以下矩阵恒等式成立： (A+BC T) –1 = A–1 - A–1B ( I +C T A-1B) –1 C T A-1 (A+BC T) –1 = A–1 - A–1B ( I +C T A-1B) –1 C T A-1 现令：P–1 = A 和 ? N+1 = B = C m=1 , 考虑到 前面得到的 PN+1 = ( PN + ? N+1? N+1 T）-1，有 也可记为 所以： 另一推理方法： 其中： 即相当于矩阵恒等式中的 ( I + C T A-1B) –1 。 将式（2-3-3）、式（2-3-2）和式（2-3-1）代入 ? N+1= PN+1? N+1 T y N+1 ， 并令： ^ 将上式打开: ? N+1 = PN? N T y N+ PN ?N+1 y(N+1) – – K N+1 ?N+1T PN? NTyN – K N+1 ?N+1T PN ?N+1 y(N+1) ? N+1= ? N+( PN ?N+1- K N+1 ?N+1TPN ?N+1) y(N+1) – – K N+1?N+1T ? N 整理成: ( PN ?N+1- K N+1 ?N+1TPN ?N+1) = K N+1 ^ ^ ^ ^ 可以证明: ? ? N+1 = ? N+ K N+1( y(N+1) – ?N+1T ? N ) ^ ^ ^ ? N+1 = ? N+ K N+1( y(N+1) – ?N+1T ? N ) ?N+1T = [-y(N)，? -y(N-n+1) , u(N) ，? , u(N-n+1) ] 2-3-2递推算法由以下三个算式联立组成 ： ^ ^ ^ 模型 ： y(N+1) = ?N+1T ? + ?(N+1) N时刻对N+1时刻的预报 y( N+1?N ) = ?N+1T ?N 预报误差 ( 被称为新息 ) y(N+1?N) = y(N+1) - y(N+1?N) = y(N+1) - ?N+1T ?N ^ ~ ^ ^ ^ 2-3-3、递推算式的物理含义： 则参数估计的 式（2-3-5）可表达成 ? N+1 = ? N+ K N+1 y(N+1?N) 式（2-3-5） ^ ^ ~ 物理意义：? N+1是对 ? N 进行修正，利用在? N 基础上对 y (N+1) 预报的误差对 ? N 做修正