第03讲LS法.ppt

2 基本算法(12/14) (2) Markov估计(最小方差估计). 当回归方程(3)的噪声向量WL的统计协方差矩阵?L=E(WLWL?)已知时,取加权矩阵?L=?L-1,则此时的加权LS估计qWLS称为Markov估计qMLS,其解的形式为 * * 2 基本算法(13/14) 对系统辨识问题,还存在一个可辨识性问题. 当给定输入输出数据时,对假定的模型结构是否能唯一地确定模型的参数,这就是可辨识问题. 在上述LS估计问题中,可辨识性即为基于参数模型的辨识问题归结的模型参数的LS最优化问题是否存在唯一解问题. 可辨识性直接与系统的结构、系统的输入输出信号的性质相关. 与系统结构的关系 对输入输出模型,则有求系统阶次准确已知,系统传递函数模型的分子分母互质. 对状态空间模型,则要求系统能控并能观. * * 2 基本算法(14/14) 与输入信号的关系. 要求过程的所有模态都必须被输入信号“持续激励”,即系统的输入输出信息“充分丰富”. 此外系统的观测数据矩阵?L的各列线性无关,输入u(k)应有充分的变化(其频带较宽),还要与输出y(k)相对“独立”. 对输出反馈闭环系统,反馈环应存在纯滞后环节. LS估计的可辨识条件为矩阵?L??L?L必须是非奇异的. 常用的输入信号:随机序列、伪随机序列、频带较宽的离散序列. * * 3 LS估计的数值计算(1/3) 3 最小二乘估计的数值计算 LS估计的计算主要是寻找具有良好数值特性的 正定矩阵?L??L?L的矩阵求逆数值算法,或 求解正则方程(即为多元线性一次方程组)的数值方法 * * 3 LS估计的数值计算(2/3) 对正则方程的求解, 可以利用消元法等一系列求解一次线性方程组的方法. 但有时在求解该方程组是会出现矩阵接近于奇异(行列式数值接近于零,或矩阵的条件数偏大),即所谓“病态”的情况. 由此导致参数估计的结果不稳定,不可信. 出现上述情况的原因可能是由于 信号不充分丰富 被辨识的过程受到的外加激励不够, 采样间隔太密； 或者A/D转换的位数太短,计算舍入误差累计所致. * * 3 LS估计的数值计算(3/3) 为解决LS计算中可能出现的病态问题,提出了基于矩阵分解方法的不少改进算法(具体可参阅关于计算方法的文献),例如: Householder变换法、 改进的平方根法和 U-D分解算法. 该方法是Bierman 1977提出的改善逆矩阵(?L??L?L)-1计算性质(对称性、正定性和稳定性)而又不增加计算量的算法. 总之,我们在使用LS的辨识方法时,应该注意避免出现和克服病态问题. * * 4 LS法的应用例子(1/1) 3 最小二乘法的应用例子 为加深对LS辨识算法的理解,下面讨论几个LS辨识方法应用的小例子. 测电阻实验数据处理(例2) 一阶化工被控系统辨识(例3) 线性曲线拟合(例4) 非线性曲线拟合(例5) 不相容方程组(例6) * * 4 LS法的应用例子--例2(1/6) A. 测电阻实验数据处理 例2 某电路实验课,测得某电阻两端的电压和通过其间的电流分别为Vi和Ii,其中i为实验数据的组号. 试根据L组该实验数据,推算电阻值R. 解 由电路理论,电阻的电流与电压满足如下欧姆定律 V=RI (11) * * 基于上述欧姆定律,利用实验数据来推算电阻值的问题,可视为静态系统辨识(回归分析)问题. 因此,将L组实验数据分别代入上述欧姆定律,则可得如下向量回归方程 YL=?L? (12) 式中?=[R]; YL=[V1, V2, ..., VL]? ?L=[I1, I2, ..., IL]? 因此,由上述LS辨识算法,有 4 LS法的应用例子--例2(2/6) * * 4 LS法的应用例子--例2(3/6) 一般在进行实验数据处理时,推算电阻值R采用如下算术平均值 可以证明,若将在实验中的所有扰动和测量误差都等效地综合反映在方程(11)等式左边的电压上且可以用白噪声w描述,即方程(11)可描述为 V=RI+w 则LS估计(13)的估计误差的方差可能将远远小于算术平均值估计(14). 这就是说,LS法比算术平均法提供更精确的估计值. 上述结论可证明如下: * * 设电压测量值中包含有噪声,即 Vi=RIi+wi 因此有 4 LS法的应用例子--例2(4/6) 而对一般算术平均值,有 * * 若噪声wi为同分布的白噪声(即wi与wj统计独立),则有 E(RLS)=E(Raverage)=R 即两种方法得到的估计值都为期望值无偏的,但对估计值的方差,有 4 LS法的应用例子--例2(5/6) * * 可以证明