系统辨识si-05.pptVIP

第五章 系统辨识的最小二乘法 第一节 最小二乘法的基本原理 第二节 最小二乘法的递推算法 第三节 最小二乘法的实时算法 第四节 最小二乘法的应用范围 第五节 最小二乘法的局限性 第一节 最小二乘法的基本原理 一、问题的提出 二、基本最小二乘法 三、加权最小二乘法 四、对测试信号的要求 五、最小二乘估计值的统计性质 第二节 最小二乘法的递推算法 一、递推算法的公式推导 二、递推算法的启动 第三节 最小二乘法的实时算法 一、渐消记忆的最小二乘递推算法 二、限定记忆的最小二乘递推算法 第四节 最小二乘法的应用范围 最小二乘法是K.F.Gauss于1795年在星体轨道预报研究工作中提出的。20世纪60年代，瑞典学者K.J.?str?m把这个方法用于动态系统的辨识中，取得了许多成果。 在系统辨识领域中，最小二乘法是应用得最广泛的基本方法，许多其它方法都是在它的基础上发展起来的。 只要对象的数学模型可以转换成最小二乘法所面向的模型形式，即ARX模型，就可以应用。 第五节 最小二乘法的局限性 最小二乘法是一种参数估计方法，即在假定模型结构已知的条件下，用试验方法所取得的数据来确定表征系统动力学模型中的参数。最小二乘法具有很多优点： ⑴ 适用范围广，适用于动态或静态、线性或非线性、定常或时变系统； ⑵ 可离线辩识，也可在线辨识； ⑶ 将被辨识系统完全视为黑箱，不需要验前知识，不需要观测数据提供概率统计方面的信息； ⑷ 方法简单，易于实现。 一次完成算法 或 整批算法 整批算法有一些缺点： ⑴ 随着数据采集量的增大，即N很大，导至?阵很大，需要保存观测数据的存储空间增大； ⑵ 每增加新的数据(即采样一次)，都必须求逆 (?T ?)-1 ，导致计算量增大； ⑶ 不适用于在线辨识。 递推最小二乘法（Recursive Least Squares Method） 一、递推算法的公式推导 设观测N (N2n+1)次，最小二乘估计公式为 在进行第N+1次观测后，各量写成如下形式： 矩阵反演公式 标量 加权最小二乘法的递推公式 最小二乘估计的递推算法有以下特点： ⑴ 不用求逆；不用储存观测数据。 ⑵ 物理意义明显，即在前一次估计值上加一个修正项。 预报值 新的实测值 预报误差或新息 修正（增益）因子 ⑶ 需要确定初始值，即算法需要启动。 二、递推算法的启动 1. 用整批算法启动 缺点：①需要求逆运算；②需配备两套程序。 2．人为给定初值 下面说明理由： “实时”的含义： ⑴ 及时，计算速度快，在指定时间内完成一次估计，上述的无限增长记忆的递推最小二乘法就具备了很好的及时性； ⑵ 真实，能准确地反映系统的当前特性（如时变参数等），也就是说，要能够适应系统本身或环境变化，所以实时算法也叫做适应算法。 从原理上讲，随着观测数据的增加，通过不断地递推估计，模型参数的估计精度将不断提高（根据一致性），无限增长记忆方式的根据正在于此。 在实际应用中，常常会因为数据量的加大，而使估计精度下降且远离参数真值。这主要是因为数据饱和现象和系统的时变性引起的。 （1）数据饱和现象 随着观测次数的增加，数据越来越多，以至于新数据所提供的信息被淹没在旧数据的海洋之中，新数据所起的作用也越来越小，算法的修正能力也越来越弱。 修正 当出现数据饱和后，最终可能会使 PN失去正定性、对称性，舍入误差将起主导作用，估计值偏离真值越来越大。 （2）时变参数系统 所谓时变参数系统是指系统的动态特性随时间变化，即系统参数随时间变化。但是，无限增长记忆的算法对所有的数据都同等地看待，不能反映当前特性的历史数据一直在起作用，而反映当前特性的新数据却起不到足够的作用，因此，也就不能跟踪系统参数的变化。 参数的变化必然反映在新数据中，因此，应采取措施去除历史旧数据的影响，同时加重新数据的份量。 可采用加权最小二乘法来解决以上问题。 一、渐消记忆的最小二乘递推算法 对历次数据加上遗忘因子，逐渐遗忘掉旧数据，克服旧数据的影响，同时突出当前新数据的作用。遗忘因子也叫加权因子，取0ρ1。这种方法也叫逐渐遗忘的最小二乘法 由于历史数据向前按指数衰减，所以又叫做加指数窗的最小二乘法。 渐消记忆的最小二乘法常用于自适应控制系统。 当μ=1时，就退化成了无限增长记忆的最小二乘法。 二、限定记忆的最小二乘递推算法 渐消记忆的最小二乘法旧数据的影响有所减弱，但始终都在起作用。 最简单的消除旧数据的影响方法就是把旧数据彻底去掉。 限定记忆的最小二乘法(Fixed Memory Least Squares Method)就是这样一种算法，它总是使用最近N组观测数据，每次估计时，当添入一组新的观测数据时，就丢弃一组最老的数据。因此，也叫做加矩形窗的最小二乘法。就这点而言，这种算法更适合于