小二乘法综述.pdfVIP

大学 2013～2014 学年第－学期期末考试 －系统辨识 (小论文) 题 目：最小二乘法综述 学 院：电气与信息工程学院 系：自动化系 专 ：自动化 班 级：自动化*班 学生姓名： 学 号： 日 期：2016/12/27_____________________________ 最小二乘法综述 摘要：最小二乘法是一种最基本的辨识方法，本文首先对系统辨 识概念以及最小二乘法原理进行了介绍，针对最小二乘存在的缺陷： 是随着数据的增长，最小二乘法将出现所谓的“数据饱和”现象；二是存 在有色噪声时不能获得无偏一致估计。进行了分析并阐述了几种能有 效解决上述 问题的改进型最小二乘法，分别称为遗忘因子法、限定记 忆法和广义最小二乘法，并且在 Matlab 上进行了仿真分析。最后对最 小二乘法在系统辨识中的发展趋势做了预测。 关键词 ：最小二乘法 改进型最小二乘法 Matlab 发展趋势 引 言 系统辨识归根到底是一种数学建模的过程，而建模过程中运用的 方法并不唯一，最小二乘法是较早被应用于系统辨识中的 类方法。 1962 年，L. A. Zadeh 最先提出了系统辨识的定义 ：“辨识就是在输入 和输出数据的基础上，从 组给定的模型类中，确定一个与所测系统 等价的模型。”简单的来说，就是在现有数据的基础上，按照一个准则 在 组模型类中选择一个与提供的数据拟合得最好的模型。而根据最 小二乘法的定义：“最小二乘法是一种技术，它通过的平方和寻找数据 的最佳匹配。”其基本思想就是让实测数据和估计数据之间的平方和 最小，这恰恰是系统辨识所需要解决的问题，所以最小二乘法很早就 被用来求解辨识中需要的拟合数学模型。 本文在阐述最小二乘法理论的基础上对于其在系统辨识中的应 用做了介绍，并指出实际应用中存在的不足，列举了几种改进型的最 小二乘算法限定记忆法和遗忘因子法，并通过 Matlab 进行仿真分析， 最后给出了系统辨识的发展趋势。 1. 基于最小二乘法的系统辨识的理论基础及应用 1.1 最小二乘法历史简介 1801 年，意大利天文学家朱赛普·皮亚齐发现了第 颗小行星谷 神星。经过 40 天的跟踪观测后，由于谷神星运行至太阳背后，使得皮 亚齐失去了谷神星的位置。随后全世界的科学家利用皮亚齐的观测数 据开始寻找谷神星，但是根据大多数人计算的结果来寻找谷神星都没 有结果。时年 24 岁的高斯也计算了谷神星的轨道。奥地利天文学家海 因里希·奥尔伯斯根据高斯计算出来的轨道重新发现了谷神星。 高斯使用的最小二乘法的方法发表于 1809 年他的著作《天体运动 论》中。 经过两百余年后，最小二乘法已广泛应用与科学实验和工程 技术中，随着现代 电子计算机的普及与发展，这个方法更加显示出其 强大的生命力。 1.2 系统辨识的理论基础 从字面上讲，系统辨识( System Identification) 就是识别一个系统、 辨识一个系统。系统通常是由表征系统输入输出关系的数学模型描述 的，这个模型有其特定的结构和参数。因此，系统辨识包含系统结构 辨 识 ( System Structure Identification) 和 参 数 估 计 ( Parameter Estimation) ． 系统结构(或模型结构) 就是系统数学表达式的形式。对单输入单 输出线性系统而言，模型结构就是系统的阶次(Order) ；对多变量线性 系 统而言，模型 结构就是系 统 的能控性结构指数 (Controllabili