第03讲LS法最新.ppt

* 解 从数据坐标图,我们看到开始时浓度增加较快,后来逐渐减弱,到一定时间就基本稳定在一个数上,即当t??时,y趋于某个数,故有一水平渐近线. 另外,t=0时,反应未开始,浓度为0. 根据这些特点,可设想y=f(t)是双曲线型1/y=a+b/t,即y= t/(at+b).它与给定数据的规律大致符合. 为了确定a、b,令 y=1/y, x=1/t, 于是可用x的线性函数y(x)=a+bx拟合数据(xi,yi)(i=1,…, 16),xi,yi由原始数据(ti,yi)根据变换计算出来. 4 LS法的应用例子--例5(3/9) * * 由前面的LS估计式,解得 a=0.0806621, b=0.1616822 从而得到 y1=t/(0.0806621t+0.1616822). 由本例的数据坐标图可看出,符合给定数据的函数还可选为指数形式.此时可令拟合曲线形如 y=aeb/t, 显然,当t??时,y?a,当t?0时,若b0,则y?0,且t增加时y增加,与给出数据规律相同.为了确定a与b,对上式两边取对数,得 lny=lna+b/t 4 LS法的应用例子--例5(4/9) * * 令 y=lny, A=lna, x=1/t, 于是由(ti,yi)计算出(xi,yi),拟合数据(xi,yi)(i=1,…,16)的曲线仍为S2(x)=A+bx. 由前面的LS估计式,解得 A=2.42704, b=-1.0567, 从而求得 y2=11.3253e-1.0567/t 所得到的2个拟合函数的效果如下图所示. 4 LS法的应用例子--例5(5/9) * * 4 LS法的应用例子--例5(6/9) * * 下面简单比较两种非线性曲线拟合的效果. 为此先定义在数据点上的拟合误差 4 LS法的应用例子--例5(7/9) 本例经过计算可得两种拟合曲线的最大误差点(拟合误差的?-范数)分别为 * * 4 LS法的应用例子--例5(8/9) 而均方误差(拟合误差的2-范数)分别为 由此可知||?(2)||2及||?(2)||?都比较小,所以用y=y2(t)作拟合曲线比较好,即对本例, 指数模型就比双曲线模型拟合程度要好得多. * * 4 LS法的应用例子--例5(9/9) 从本例看到选择拟合曲线、回归分析和系统辨识的数学模型,包括数学模型中的自变量因素的个数、非线性函数的形式(即辨识中的模型类)并不是一开始就能选得好, 往往通过分析确定若干模型后, 再经过实际计算才能选到较好的模型. * * 4 LS法的应用例子--例6(1/2) E. 不相容方程组 例6 试求如下不相容(矛盾)方程组使方程组误差LS意义解 上式可列为如下向量回归式 * * 4 LS法的应用例子--例6(2/2) 根据前面讨论的LS式,则有使上述不相容方程组的方程误差LS意义的解为 方程残差为: * * 5 统计特性(1/8) 5 统计特性 对于应用者来说,上述的LS估计值的质量,即它的统计特性如何是一个相当重要的问题. 下面我们分别给出关于静态系统的LS估计值的如下统计特性的定理. 无偏性(定理1) 有效性(定理2) 一致性(定理3) 以及关于动态系统LS估计值的无偏一致性(定理4)的定理. * * 5 统计特性(2/8)—定理1 定理1 如果静态系统(1)的噪声向量WL的均值为零,且与观测数据矩阵FL统计独立,则加权LS参数估计值?WLS是无偏估计量,即 E{?WLS}=q0 (17) 式中?0表示参数的真实值. 证明 根据(7)式和本定理条件,参数估计值?WLS的数学期望为 所以?WLS是无偏估计值.(证毕). 代入回归方程 * * 5 统计特性(3/8) 定理1告诉我们,对静态系统(1),只要WL与FL统计独立,利用LS法可以获得无偏一致估计量. 值得指出的是该定理中并未要求扰动量WL一定是白噪声. 无偏性仅反映的是参数估计值与真实值之间偏差的期望(统计平均)是否为零,不能反映参数估计值与真实值之间实际偏差可能的大小(参数估计值与真实值之间偏离的程度). 为此,引入度量参数估计值与真实值之间偏离的程度的有效性度量(参数估计值与真实值之间偏差的协方差). * * 5 统计特性(4/8)—定理2 证明 根据(7)式和定理2的条件,有 定理2 如果模型(1)的噪声向量WL的均值为零,协方差阵Cov{WL}=SL,并且观测数据矩阵FL统计独立,则加权LS参数估计偏差 WLS=q0-qWLS的协方差阵为 代入回归方程并整理可得 * * 5 统计特性(5/8) 由上述有效性定理,可得到如下关于Markov估计和LS参数得有效性得推论. 推论1 在定理2的条件下,Markov估计偏差的协方差阵为 推论2 在定理2的