基于最小二乘法的系统辨识问题研究综述.doc

基于最小二乘法的系统辨识问题研究综述 摘要：对基于最小二乘法的系统辨识方法进行了介绍。首先对系统辨识概念以及最小二乘法原理进行了介绍，然后根据例子来说明怎样运用最小二乘法来解决实际辨识问题。而且本文针对最小二乘存在的缺陷进一步阐述了一些改进型最小二乘法在系统辨识中的应用，最后对系统辨识的发展趋势做了预测。 关键字：系统辨识 最小二乘法 改进型最小二乘法 发展趋势 1引言 系统辨识归根到底是一种数学建模的过程，而建模过程中运用的方法并不唯一，最小二乘法是较早被应用于系统辨识中的一类方法。1962年，L. A. Zadeh 最先提出了系统辨识的定义[1]：“辨识就是在输入和输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。”简单的来说，就是在现有数据的基础上，按照一个准则在一组模型类中选择一个与提供的数据拟合得最好的模型。而根据最小二乘法的定义[2]：“最小二乘法是一种数学优化技术它通过最小化误差的平方和寻找数据的最佳函数匹配。 (2.2) 恒成立。因此我们转而求其次，设法找到实数组 x1，x2，…，xs使误差的平方和最小，这样的 x1，x2，…，xs称为方程组的最小二乘解，这样问题就叫最小二乘法问题。 2.3 最小二乘法处理辨识问题的应用举例 考虑如下线性系统： （1） （2） 式中： （3） （4） 则系统可表示为： （5） 设样本和参数集为： （6） h(k)为可观测的量， 差分方程可写为最小二乘形式 （7） 如何在系统噪声e(k)存在的情况下从该方程中正确的解出，即是系统辨识的任务。 为了求出，我们面临三大问题：一是输入信号的选择，二是判决准则的选取，三是辨识算法的选择，下面一一探讨。 一．选择输入 为了准确辨识系统参数，我们对输入信号有两大要求，一是信号要能持续的激励系统所有状态，二是信号频带能覆盖系统的频带宽度。除此之外还要求信号有可重复性，不能是不可重复的随机噪声，因此我们通常选择M序列或逆M序列作为输入。 二．准则函数 因为本文主要探讨最小二乘类辨识方法，在此选取准则函数 （8） 使准则函数的估计值记做，称作参数的最小二乘估计值。 在式(7)中，令k=1,2,3,……L，可构成线性方程组： （9） 式中 （10） 准则函数相应变为： （11） 极小化,求得参数的估计值，将使模型更好的预报系统的输出。 三．最小二乘辨识算法 设使得，则有 （12） 展开上式，并根据以下两个向量微分公式： （13） 得正则方程： （14） 当为正则阵时，有 （15） 且有，所以满足式（15）的唯一使得，这种通过极小化式（11）计算的方法称作最小二乘法。而且可以证明，当噪声e(k)是均值为0的高斯白噪声时，可实现无偏估计 3 最小二乘法在辨识时存在的问题及其改进型的系统辨识应用举例 3.1传统最小二乘存在的问题 最小二乘法存在一些缺陷制约着最小二乘法在系统辨识中的应用，在处理日益复杂的系统辨识问题中，最小二乘法在系统辨识中存在的缺陷逐渐显现出来。如传统的最小二乘法不适合在动态辨识系统中使用，而且其参数估计存在偏差，耗时较长的问题。 3．2递推最小二乘算法 为了减少计算量，减少数据在计算机中占用的内存，并实时辨识出系统动态特性，我们常利用最小二乘法的递推形式。下面我们来推导递推最小二乘算法的原理。 首先，将式(11)的最小二乘一次完成算法写为 （16） 定义 （17） 式中 （18） 式中，h(i)是一个列向量，也就是HL的第i行的倒置，P(k)是一个方阵，它的维数取决于未知参数的个数，假设未知参数的个数是n，则P(k)的维数是n×n.。 由式17可得P(k)的递推关系为：