最小二乘法综述.docVIP

大学2013～2014 学年第－学期期末考试 －系统辨识 (小论文) 题 目：最小二乘法综述 学 院：电气与信息工程学院 系：自动化系 专 业：自动化 班 级：自动化*班 学生姓名： 学 号： 日 期：2016/12/27_____________________________ 最小二乘法综述 摘要：最小二乘法是一种最基本的辨识方法，本文首先对系统辨识概念以及最小二乘法原理进行了介绍，针对最小二乘存在的缺陷：一是随着数据的增长，最小二乘法将出现所谓的“数据饱和”现象；二是存在有色噪声时不能获得无偏一致估计。进行了分析并阐述了几种能有效解决上述问题的改进型最小二乘法，分别称为遗忘因子法、限定记忆法和广义最小二乘法，并且在Matlab上进行了仿真分析。最后对最小二乘法在系统辨识中的发展趋势做了预测。 关键词：最小二乘法 改进型最小二乘法 Matlab 发展趋势 引 言 系统辨识归根到底是一种数学建模的过程，而建模过程中运用的方法并不唯一，最小二乘法是较早被应用于系统辨识中的一类方法。1962年，L. A. Zadeh 最先提出了系统辨识的定义：“辨识就是在输入和输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。”简单的来说，就是在现有数据的基础上，按照一个准则在一组模型类中选择一个与提供的数据拟合得最好的模型。而根据最小二乘法的定义：“最小二乘法是一种 \o 数学 数学 \o 优化 优化技术，它通过 \o 最小化（页面不存在） 最小化 \o 误差 误差的平方和寻找数据的最佳 \o 函数 函数匹配。”其基本思想就是让实测数据和估计数据之间的平方和最小，这恰恰是系统辨识所需要解决的问题，所以最小二乘法很早就被用来求解辨识中需要的拟合数学模型。 本文在阐述最小二乘法理论的基础上对于其在系统辨识中的应用做了介绍，并指出实际应用中存在的不足，列举了几种改进型的最小二乘算法限定记忆法和遗忘因子法，并通过Matlab进行仿真分析，最后给出了系统辨识的发展趋势。 1. 基于最小二乘法的系统辨识的理论基础及应用 1.1最小二乘法历史简介 1801年，意大利天文学家朱赛普·皮亚齐发现了第一颗小行星谷神星。经过40天的跟踪观测后，由于谷神星运行至太阳背后，使得皮亚齐失去了谷神星的位置。随后全世界的科学家利用皮亚齐的观测数据开始寻找谷神星，但是根据大多数人计算的结果来寻找谷神星都没有结果。时年24岁的高斯也计算了谷神星的轨道。奥地利天文学家海因里希·奥尔伯斯根据高斯计算出来的轨道重新发现了谷神星。? 高斯使用的最小二乘法的方法发表于1809年他的著作《天体运动论》中。?经过两百余年后，最小二乘法已广泛应用与科学实验和工程技术中，随着现代电子计算机的普及与发展，这个方法更加显示出其强大的生命力。 1.2系统辨识的理论基础 从字面上讲，系统辨识( System Identification) 就是识别一个系统、辨识一个系统。系统通常是由表征系统输入输出关系的数学模型描述的，这个模型有其特定的结构和参数。因此，系统辨识包含系统结构辨识 ( System Structure Identification) 和参数估计( Parameter Estimation) ． 系统结构(或模型结构) 就是系统数学表达式的形式。对单输入单输出线性系统而言，模型结构就是系统的阶次(Order) ；对多变量线性系统而言，模型结构就是系统的能控性结构指数(Controllability Structure Index) 或能观测性结构指数 (Observability Structure Index) ，系统阶次等于系统的能控性结构指数或能观测性结构指数之和。对传递函数而言，系统参数就是传递函数分子分母多项式的系数(Coeffi-cient) ，系统阶次就是传递函数分母多项式的次数(Degree) ; 对状态空间模型而言，系统参数就是状态空间模型的 A，B，C，D 矩阵，就是状态向量的维数或矩阵的维数，它等于系统的能控性结构指数系统阶次或能观测性结构指数之和。 求解系统辨识问题实质上就是找到合适的数学方法来判断系统的结构以及得到系统参数。 1.3最小二乘法原理 最小二乘法作为