其他经典估计.pptVIP

作业： 最小二乘估计——线性最小二乘估计 加权最小二乘法 对不同置信度的测量值采用加权的办法分别对待 强调可靠数据的重要性 LS改为： N×N维加权矩阵 最小二乘估计——线性最小二乘估计 此时的LSE为： 此时估计的均方误差为： 加权最小二乘法 一般的LSE为： 一般的均方误差为： 最小二乘估计——线性最小二乘估计 加权最小二乘法 如果 是零均值和具有方差 的不相关噪声，那么 加权因子的合理选择是： 当 时，加权最小二乘退化为普通的最小二乘 最小二乘估计——线性最小二乘估计 使用加权最小二乘估计 第一次测量的权重大了！ 最小二乘估计——线性最小二乘估计 使用加权最小二乘估计 估计的均方误差为： 最小二乘估计——线性最小二乘估计 小 结 LSE为： 估计的均方误差为： 最小二乘估计——内容安排 1 2 3 4 5 引言 线性最小二乘估计 序贯最小二乘估计 非线性最小二乘估计 小结 最小二乘估计——序贯最小二乘估计 前面的方法均是等到所有可供使用的数据全部采样后再进行处理。 序贯最小二乘估计 不必得到全部数据后批处理！ 求出基于 = 的最小二乘估计 得到 对 进行更新，得到新的 而不是利用全部数据，套用 求得 最小二乘估计——序贯最小二乘估计 假设信号是 ，经过N次观测，观测数据为： 利用前面的知识，容易得到： 又得到新的样本 ，那么此时的估计为： 利用前面的LSE和新的观测，可求得新的LSE!! 最小二乘估计——序贯最小二乘估计 老的估计 修正项 改写形式 最小二乘估计——序贯最小二乘估计 若对观测数据加权， 那么， 0 式1 最小二乘估计——序贯最小二乘估计 若 ，其中 是均值为零，方差为 的噪声 则： 因此有： 式2 式3 最小二乘估计——序贯最小二乘估计 式1 式2 式3 《信号检测与估计》 Signal Detection and Estimation 其他经典估计 § 最大似然估计 例 最小二乘估计——内容安排 1 2 3 4 5 引言 线性最小二乘估计 序贯最小二乘估计 非线性最小二乘估计 小结 最小二乘估计——内容安排 1 2 3 4 5 引言 线性最小二乘估计 序贯最小二乘估计 非线性最小二乘估计 小结 最小二乘估计——引言 第一次观测：38.0 第二次观测：37.9 第三次观测：38.1 第四次观测：38.1 第五次观测：37.9 前后观测五次 温度值如下： 取个平均！ 38 摄氏度 最小二乘估计——引言 假设信号是 ，经过N次观测，观测数据为： 如何得到A？ 取个平均！ 最小二乘估计——引言 样本均值估计即是一种特殊的最小二乘估计 最小二乘估计——引言 无偏估计的类型 确定最小方差 观测数据的概率描述 各种限制。。。 之前学过的估计方法 对观测数据不做 任何概率或统计描述 仅仅假设一个数学模型 最小二乘估计 古老但实用！ 最小二乘估计——引言 最小二乘估计（Least Square Estimate，LSE） 估计的目的是使得所有观测数据和 假设信号之间的平方误差最小 均方误差准则 最小二乘估计——引言 假设取决于未知参量 的信号 ，由于噪声或模型不准确， 观测信号是受干扰的信号，用观测数据 表示， 的最小 二乘估计就是选择使得 最小的 值 通常用于数据的准确统计特性未知，或不能找出最优估计的场合 最小二乘估计——引言 假设信号是 ，经过N次观测，观测数据为： 使得 最小, 上式对A求导，并令结果为0，可得： 最小二乘估计——引言 最 小 二 乘 估 计 最 小 方 差 无 偏 估 计 是高斯白噪声 最小二乘估计——引言 考虑正弦信号，信号模型为： 若A是待估计参量， 是已知的： 若 是待估计参量，A是已知的： 线性最小二乘 非线性最小二乘 最小二乘估计——内容安排 1 2 3 4 5 引言 线性最小二乘估计 序贯最小二乘估计 非线性最小二乘估计 小结 最小二乘估计——线性最小二乘估计 表1中是在不同温度下测量同一热敏电阻的阻值，根据测量值 确定该电阻的数学模型，并求出当温度在70摄氏度时的电阻值。 最小二乘估计——线性最小二乘估计 R t 数学模型： 最小二乘估计——线性最小二乘估计 LS为： 求极值，对上式求导： 二元一次方程！ 最小二乘估计——线性最小二乘估计 最小二乘估计——线性最小二乘估计 最小二乘估计——线性最小二乘估计 矢量最小二乘 假设矢量参量 是 维的，信号 是待估计参量的线性函数，假