系统辨识各类最小二乘法汇总.docxVIP

PAGE \* MERGEFORMAT 8 最小二乘方法的总结与比较 控制二班 王思明（作业二） 最小二乘法大约是1795年高斯在他那著名的星体运动轨迹研究工作中提出来的。后来，最小二乘法就成了理论的奠基石。由于最小二乘原理简单，编程程序也不困难，所以它颇受人们重视，应用相当广泛。最小二乘的基本结果有两种形式，一种是经典的一次完成算法，另一种是现代的递推算法。本次作业只讨论递推算法和其他扩展的最小二乘方法比较。 最小二乘法 最小二乘法具有两个缺陷： 1、当噪声模型是有色噪声时，最小二乘参数估计不是你无偏、一致估计。 2、随着数据的增长，最小二乘法出现数据饱和现象，以致算法慢慢失去修正能力。 下面是其分别在白噪声和有色噪声时的参数估计曲线。最小二乘的程序见附录。 图1-1 RLS白噪声时参数估计变化曲线 图1-2 RLS有色噪声时参数估计变化曲线 从图中可以很明显的看出，当噪声变成有色噪声时，RLS算法是有偏的，始终不能得出参数的真值，而且可以看出随着数据的增多，算法对参数的修正能力明显下降，到最后参数值几乎不变，这说明RLS算法进入了数据饱和状态。 遗忘因子法和限定记忆法 这两种算法（RFF,RFM）是基于RLS的数据饱和现象而提出来的一种辨识算法。 RFF很简单，在老数据加上遗忘因子以降低老数据提供的信息量，增加新数据的信息量。仅仅在RLS算法内部加入遗