渐消记忆递推最小二乘算法.PPT

* * 一种不需矩阵求逆的最小二乘法 设系统的差分方程模型为 （4.20） 令 （4.21） （4.22） * 则式（4.20）可以写为 （4.23） 取 * * 递推最小二乘算法 * 为了进行递推计算，需要给出 和 的初值 和 ，有两种给出初值的办法。 （1）设 为N的初始值，则可算出初值 （2）假定 ，c是充分大的常数， I为 单位矩阵 递推之后能得到较好的参数估计。 ，则经过若干次 * 渐消记忆递推算法 渐消记忆法是对每个数据按指数加权，老的数据作用逐渐减弱。 如果再获得一对新的观测值 ， 则有 由n+N个观测数据获得 的最小二乘估计为 渐消记忆递推最小二乘算法 其中，λ称为“遗忘因子”。选择不同的λ就得到不同的遗忘效果。 λ越小，遗忘的速度越快。 λ =1：无遗忘； λ =0：全遗忘 一般来说， λ必须选择接近于1的正数，对于线性系统，应选择0.95≤λ≤1。 * * 最小二乘估计的特点 1） 唯一性 3）应用简单，鲁棒性好 最小二乘估计的性质 2）适用范围广 * * 最小二乘估计的概率性质 如果ξ(k)是不相关随机序列，且均值为0。 1） 无偏性 2）一致性 4） 渐进正态性 辅助变量法、广义最小二乘法、增广矩阵法 如果ξ是均值为0且服从正态分布的白噪声向量，则最小二乘参数估计值服从正态分布。 3） 有效性 在众多无偏估计中，方差最小。 * 各种改进最小二乘法的对比 辨识算法 方法原理 精度 计算量 适用范围 IV 基于最小二乘估计的形式，引入辅助矩阵 辨识效果较好，但比GLS和ELS差 计算量较小，收敛速度快 能适应较广范围的噪声特性，对初值敏感 GLS 在不改变参数的情况下，对系统IO和噪声进行变换 当信噪比较大时，辨识精度较高 计算量较大 要求数据充分，初值对辨识结果有较大影响 ELS 同时估计系统参数和噪声参数 辨识效果较好，精度不如GLS 类似于IV 广泛用于模型噪声为有色噪声的情况 应用极大似然法进行系统模型的参数估计已有较长的历史，也是一种比较常用的方法。在某种意义上讲，它是和最小二乘相并行的方法，但是极大似然法的思路与最小二乘法完全不同。 极大似然法是由Fisher发展起来的一种参数辨识方法，可用来处理相关噪声的情况。其实该方法最早是由高斯所论述的。 第五章 极大似然法辨识 * 对于一组观测数据{yl, y2, … , yN}，它所具有的联合概率分布表示了出现该观测结果的可能性。而观测数据的联合概率密度与待估参数密切相关，不同的参数值将有不同的概率密度函数。 当 时，如果该联合概率密度最大（即得到该观测值的可能性最大），那么在已知该观测数据条件下， 是准确参数值的可能性最大。 极大似然法需要构造一个以数据和未知参数为自变量的似然函数，并通过极大化这个似然函数，获得模型参数的估计值。 方法描述 * 第六章 系统结构辨识 6.1 按残差方差定阶 6.2 确定阶的Akaike信息准则 一种简单而有效的方法就是选定模型阶数n的不同取值，按估计误差最小或F检验法来确定模型的阶。 式中：L是模型的似然函数；p是模型中的参数数目。当AIC为最小的那个模型就是最佳模型。 * 答疑安排 6月13日，13:00-17:00，格物207 6月17日，10:00-11:30，科学园E1栋415室 * 复 习 * 第一章 绪论 模型的含义： 所谓模型（model）就是把关于实际系统的本质的部分信息减缩成有用的描述形式。 模型是分析系统和预报、控制系统行为特性的有力工具。 模型是根据使用目的对实际系统所作的一种近似描述。 系统是由相互联系、相互作用的若干组成部分结合而成的，具有特定功能的总体。 * 建立数学模型的基本方法 数学模型特点 (1)同一系统可有多个模型描述； (2)同一模型可以反映不同的实际系统； (3)模型精确度与复杂度的矛盾。 演绎法建模 归纳法建模 （理论分析法、机理建模法） （测试法、系统辨识法） * 建模过程总框图 * 研究上述系统时，可分为三类问题： （1）系统的分析问题 （2）系统的控制问题