系统辨识第57讲.docVIP

《系统辨识》第5讲要点 第5章线性动态模型参数辨识一最小二乘法 5. 1辨识方法分类 根据不同的辨识原理，参数模型辨识方法可归纳成三类： 最小二乘类参数辨识方法，其基木思想是通过极小化如下准则函数 来估计模型参数： 八 L J(汐)= Ze2(众)-=min A = 1 0 苏中f(A)代表模型输出与系统输出的偏差。典型的方法有最小二乘法、 增广最小二乘法、辅助变量法、广义最小二乘法等。 梯度校正参数辨识方法，其基本思想是沿着准则函数负梯度方向逐 步修正模型参数，使准则函数达到最小，如随机逼近法。 概率密度逼近参数辨识方法，苏基本思想是使输出Z的条件概率 密度P(z | 0)最大限度地逼近条件么下的概率密度p(z |么)，即 A p(z\0) max p(z |氏)。典型的方法是极大似然法。 5.2最小二乘法的基本概念 ?两种算法形式 批处理算法：利用一批观测数据，一次计算或经反复迭代，以获得 模型参数的估计值。 A 递推算法：在上次模型参数估计值0U-1)的基础上，根据当前 A 获得的数据提出修正，进而获得本次模型参数估计值0 (A),广泛采用的 递推算法形式为 ff(k) = 一 1) + K(k)h(k- d)z(k) A 其中0(幻表示々时刻的模型参数估计值，釘々)为算法的增益， 由观测数据组成的输入数据向量，为整数，？(々)表示新息。 ?最小二乘原理 定义：设一个随机序列｛z(Z:)，/:e(l，2,…，L)｝的均值是参数0的线性函 数 E｛z(k)｝=hT(k)e 其中A(A)是可测的数据向量，那么利用随机序列的一个实现，使准则函数 j(e)=X[z(k)-hT(k)e]2 k=l a 达到极小的参数估计值0称作0的最小二乘估计。 A ?最小二乘原理表明，未知参数估计问题，就是求参数估计值沒， 使序列的估计值尽可能地接近实际序列，两者的接近程度用实际序列与序 列估计值之差的平方和来度量。 ?如果系统的输入输出关系可以描述成如下的最小二乘格式 z(k) = hT (k)0 4- n(k) 式中4幻为模型输出变量，枞幻为输入数据向量，0为模型参数向量，not) 为零均值随机噪声。为了求此模型的参数估计值，可以利用上述最小二乘 原理。根据观测到的己知数据序列｛z(幻｝和｛/10)｝，极小化下列准则函数 L j(e)= Yl^-hT(k)0]2 A 即可求得模型参数的最小二乘估计值沒。 ?最小二乘估计值应在观测值与估计值之累次误差的平方和达到最 小值处，所得到的模型输出能最好地逼近实际系统的输出。 5.3最小二乘问题的提法 (1)考虑模型 A(z~ )z(k) = B(z~｝ )u(k) + n(k) 式中w(幻和za)分别为过程的输入和输出变量，not)是均值为零、方差为4 的随机噪声，尔厂1)和B(厂为迟延算子多项式，写成 JA(Z_1) = 1 + 6Z，1 + …Z-2 + … = +/?2厂2 + …+bHbZ~nh 假定模型阶次na和J%力己知，且有\ 2 n,，，也可设么=/7/7 = m 并定义 [h(k) = [~z(k -1 )，…-z(k - na )9u(k - nb)]T =[“丨，，…，6Zrt，/?丨，/?2，…，Z? ]r 将模型写成最小二乘格式 z(k) = hT (k)0 + n(k) 对于;1 = 1，2,…，￡ (A为数据长度)，可以构成如下线性方程组 zL=HLe+nL 式中 么=[称(2)，，側 Ar(l) -z(0) M(0) Hl = ? ? ? — -2(1) ? ? ? …-z(2-n(l) 參 ? ? ? ? 參 “(1) 參 ? ? …i42_nb) 蠢 ? ?參 ? 參 h\L) -z(L-l) …-z(L-na) n(L-l) …u(L-nh)_ k=Wl)，n(2)r，n(I)f 噪声的统计性质 E{?}=0，co\{nL}=E{nLnTL}=Zn 噪声与输入不相关 E{m(々W-/)}=0，V々，/ 数据长度L充分大 5.4最小二乘问题的解 ?考虑模型 A(z—i)z(々)=(人)+ (々) ?准则函数取 J(0) = YA(k)[z(k)-hT(k)0]2 k二 1 其中yl(幻为加权因子，对所有的A, yl(幻都必须大于零。 ?准则函数又可写成 j(0)=(zL-HLeyAL(zL-HL0) TOC \o 1-5 \h \z 式屮次为加权矩阵，它是正定的对角阵，由加权因子ylU)构成 _?1⑴ 0 … 0 AL = () 71(2)… 0 ? ? ? ? ? ? ? ? ? 礬 》 ? 0 0 A(L) ?该准则函数/(的可用以衡量模型输出与实际系统输出的接近情 况.极小化这个准则函数，即可求得模型的参数估计值，使模型的输岀能 最好地预报系统的输山。