第十三章梯度校正参数辩识方法_....pptVIP

12.1 梯度校正参数辩识方法 引言 最小二乘类参数辩识递推算法 新的参数估计值=老的参数估计值+增益矩阵 新息 梯度校正参数辩识方法（简称梯度校正法） 递推算法同样具有 的结构 基本原理不同于最小二乘类方法 基本做法 – 沿着准则函数的负梯度方向，逐步修正模型参数估计值，直至准则函数达到最小值。 主要内容 确定性问题的梯度校正参数辩识方法 随机性问题的梯度校正参数辩识方法 随机逼近法 确定性问题的梯度校正参数辩识方法 设过程的输出 参数 的线性组合 如果输出 和输入 是可以准确测量的，则 式过程称作确定性过程 确定性过程 置 若过程参数的真值记作 则 在离散时间点可写成 其中 例如 用差分方程描述的确定性过程 可以化成 现在的问题 如何利用输入输出数据 和 确定参数 在 时刻的估计值 使准则函数 式中 解决上述问题的方法 可以是梯度校正法，通俗地说最速下降法 沿着 的负梯度方向不断修正 值 直至 达到最小值 数学表达式 - 维的对称阵，称作加权阵 - 准则函数 关于 的梯度 当准则函数 取 式时 式可写成 - 确定性问题的梯度校正参数估计递推公式 其中权矩阵的选择至关重要 随机性问题的梯度校正参数辩识方法 随机性问题的提法 确定性问题的梯度校正法与其他辩识方法相比 最大的优点：计算简单 缺点：如果过程的输入输出含有噪声，这种方法不能用 随机性问题的梯度校正法 特点：计算简单，可用于在线实时辩识 缺陷：事先必须知道噪声的一阶矩和二阶矩统计特性 随机性问题 设过程的输出 模型参数 的线性组合 输入输出数据含有测量噪声 其中 和 为零均值的不相关随机噪声 置 则 现在的问题 利用输入输出数据 和 确定参数 在 时刻的估计值 使准则函数 其中 随机逼近法 随机逼近法 梯度校正法的一种类型 颇受重视的参数估计方法 随机逼近原理 考虑如下模型的辩识问题 - 均值为零的噪声 模型的参数辩识 通过极小化 的方差来实现 即求参数 的估计值使下列准则函数达到极小值 准则函数的一阶负梯度 令其梯度为零 原则上 由 式可以求得使 的参数估计值 但，因为 的统计性质不知道 因此 式实际上还是无法解的 如果 式左边的数学期望用平均值来近似 则有 这种近似使问题退化成最小二乘问题 研究 式的随机逼近法解 设 是标量， 是对应的随机变量 是 条件下 的概率密度函数 则随机变量 关于 的条件数学期望为 记作 它是 的函数，称作回归函数 对于给定的 设下列方程，具有唯一的解 当 函数的形式及条件概率密度函数 都不知道时 求下列方程的解释是困难的 可以利用随机逼近法求解 随机逼近法 利用变量 及其对应的随机变量 通过迭代计算 逐步逼近方程 式的解 常用的迭代算法 Robbins – Monro 算法 Kiefer – Wolfowitz 算法 12.2 极大似然法和预报误差方法 引言 极大似然法 一种非常有用的传统估计方法 由 Fisher 发展起来的 基本思想可追溯到高斯（1809 年） 用于动态过程辩识可以获得良好的估计性质 最小二乘法和梯度校正法 计算简单 参数估计具有优良的统计性质 噪声的先验知识要求也不高 极大似然法 基本思想与最小二乘法和梯度校正法完全不同 极大似然法 需要构造一个以数据和未知参数为自变量的似然函数 通过极大化似然函数获得模型的参数估计值 意味着 模型输出的概率分布将最大可能地逼近实际过程输出的概率分布 通常要求具有能够写出