系统辨识最小二乘大作业.docVIP

系统辨识大作业 最小二乘法及其相关估值方法应用 学院：自动化学院 专业：信息工程 学号：2007302171 姓名：马志强 日期：2010.11.14 基于最小二乘法的多种系统辨识方法研究 最小二乘法的引出 在系统辨识中用得最广泛的估计方法是最小二乘法(LS)。 设单输入-单输出线性定长系统的差分方程为 (5.1.1) 式中:为随机干扰；为理论上的输出值。只有通过观测才能得到，在观测过程中往往附加有随机干扰。的观测值可表示为 (5.1.2) 式中:为随机干扰。由式(5.1.2)得 (5.1.3) 将式(5.1.3)带入式(5.1.1)得 (5.1.4) 我们可能不知道的统计特性，在这种情况下，往往把看做均值为0的白噪声。 设 (5.1.5) 则式(5.1.4)可写成 (5.1.6) 在观测时也有测量误差，系统内部也可能有噪声，应当考虑它们的影响。因此假定不仅包含了的测量误差，而且包含了的测量误差和系统内部噪声。假定是不相关随机序列(实际上是相关随机序列)。 现分别测出个随机输入值，则可写成个方程，即 上述个方程可写成向量-矩阵形式 (5.1.7) 设 则式(5.1.7)可写为 (5.1.8) 式中：为维输出向量；为维噪声向量；为维参数向量；为测量矩阵。因此式(5.1.8)是一个含有个未知参数，由个方程组成的联立方程组。如果，方程数少于未知数数目，则方程组的解是不定的，不能唯一地确定参数向量。如果，方程组正好与未知数数目相等，当噪声时，就能准确地解出 (5.1.9) 如果噪声，则 (5.1.10) 从上式可以看出噪声对参数估计是有影响的，为了尽量较小噪声对估值的影响。在给定输出向量和测量矩阵的条件下求系统参数的估值，这就是系统辨识问题。可用最小二乘法来求的估值，以下讨论最小二乘法估计。 最小二乘法估计算法 设表示的最优估值，表示的最优估值，则有 (5.1.11) 写出式(5.1.11)的某一行，则有 (5.1.12) 设表示与之差，即 - (5.1.13) 式中 成为残差。把分别代入式(5.1.13)可得残差。设 则有 (5.1.14) 最小二乘估计要求残差的平方和为最小，即按照指数函数 (5.1.15) 为最小来确定估值。求对的偏导数并令其等于0可得 (5.1.16) (5.1.17) 由式(5.1.17)可得的最小二乘估计 (5.1.18) 3.递推最小二乘法 为了实现实时控制，必须采用递推算法，这种辨识方法主要用于在线辨识。 设已获得的观测数据长度为，将式(5.1.8)中的和分别用来代替， 即 (5.3.1) 用的最小二乘估计，则 (5.3.2) 设 (5.3.5) 于是 (5.3.6) 如果再获得1组新的观测值和，则又增加1个方程 (5.3.7) 式中 将式(5.3.1)和式(5.3.7)合并，并写成分块矩阵形式，可得 (5.3.8) 根据上式可得到新的参数估值 (5.3.9) 式中 根据矩阵求逆引理可以求得递推最小二乘法辨识公式 (5.3.19) (5.3.20) (5.3.21) 由于进行递推计算需要给出和初值和，通过计算证明，可以取初值：，，c是充分大的常数，为单位矩阵，则经过若干次递推之后能够得到较好的参数估计。 辅助变量法 辅助变量法是一种可克服最小二乘有偏估计的一种方法，对于原辨识方程 (5.4.1) 当是不相关随机序列时，最小二乘法可以得到参数向量的一致无偏估计。但是，在实际应用中往往是相关随机序列。 假定存在着一个的矩阵满足约束条件 (5.4.2) 式中是