最优估计方法综述.ppt

主要内容一、概述二、最小方差估计与线性最小方差估计三、极大似然法估计与极大验后法估计四、最小二乘法估计与加权最小二乘法估计五、递推最小二乘法估计第2页,共14页，星期六，2024年，5月概述在科学和技术领域中，经常遇到“估计”问题。所谓“估计”，就是对受到随机干扰和随机测量误差作用的物理系统，按照某种性能指标为最优的原则，从具有随机误差的测量数据中提取，信息估计出系统的某些参数状态变量。这就提出了参数和状态估计问题。这些被估参数或被估状态可统称为被估量。一般，估计问题分两大类，即参数估计和状态估计。第3页,共14页，星期六，2024年，5月概述（一）、参数估计参数估计属于曲线拟合问题。例如做完某项试验之后，得到若干个观测值与相应时间的关系。我们希望以一条曲线来表示和的关系，设式中已知的时间函数，一般是的幂函数、指数函数或正余弦函数等等。不随时间变化。第4页,共14页，星期六，2024年，5月（二）、状态估计设系统的状态方程和观测方程分别为式中，为状态变量，它是随时间而变的随机过程，为控制变量，为系统噪声，为测量噪声，为观测值。现要根据观测值来估计状态变量，这就是状态估计问题。概述第5页,共14页，星期六，2024年，5月最小方差估计与线性最小方差估计一、最小方差估计最小方差准则，要求误差的方差为最小，它是一种最古典的估计方法，这呼估计方法需要知道被估随机变量的概率分布密度和数学期望。这种苛刻的先验条件，使此方法在工程上的应用受到很大限制。评价估计优劣的准则是与的误差的方差为最小，即第6页,共14页，星期六，2024年，5月最小方差估计与线性最小方差估计(二)、线性最小方差估计线性最小方差估计就是估计值为观测值的线性函数，估计误差的方差为最小。在使用这种方法时，需要知道观测值和被估值的一、二阶矩，即数学期望和、方差Varz和Varx及协方差和。根据估计误差的方差的条件来确定系数a和b。第7页,共14页，星期六，2024年，5月极大似然法估计与极大验后法估计（一）、极大似然法估计极大似然法估计是以观测值出现的概率为最大作为估计准则的，它是一种常用的参数估计方法。设是连续随机变量，其分布密度为，含有个未知参数。把个独立观测值分别代入中的，则得将所得的k个函数相乘，得:称函数L为似然函数。。第8页,共14页，星期六，2024年，5月极大似然法估计与极大验后法估计（二）、极大验后估计极大验后估计是以已知为前提的。如果只知道，可按下式计算：式中p(x)是x的验前概率密度，p(z)是观测值z的概率密度,p(x/z)可用计算方法或实验方法求得。为了计算p(x/z)需要知道p(x)。在x没有验前知识可供利用时，可假定x在很大范围内变化。一般说来，极大似然估计比极大验后估计应用普遍，这是由于计算似然函数比计算验后概率密度较为简单。第9页,共14页，星期六，2024年，5月最小二乘法估计与加权最小二乘法估计（一）、最小二乘法估计设n次独立试验，得到z对观测。这里表示时间或其他物理量。现在的任务是：根据这些观测值，用最优的形式来表示z与t之间的函数关系。要求所选择的f(t)的参数，使得观测z(k)与对应的函数f(k)的偏差的平方和为最小。第10页,共14页，星期六，2024年，5月最小二乘法估计与加权最小二乘法估计（二）、加权最小二乘法估计最小二乘法每个误差值e的系数都为1，即每个误差值都是“等权”的。事实上，在z值的不同测量范围内，测量精度往往是不同的，因而测量误差也不相同。合理的办法是对不同的误差项加不同的权，即把J写成:这样可使拟合曲线接近于测量精度高的点，从而保证拟合曲线有较高的准确度。第11页,共14页，星期六，202