第十三章梯度校正参数辩识方法_...资料.pptVIP

;12.1 梯度校正参数辩识方法;引言;主要内容;确定性问题的梯度校正参数辩识方法;;若过程参数的真值记作 则 在离散时间点可写成 其中;例如 用差分方程描述的确定性过程 可以化成;现在的问题 如何利用输入输出数据 和 确定参数 在 时刻的估计值 使准则函数 式中;解决上述问题的方法 可以是梯度校正法，通俗地说最速下降法 沿着 的负梯度方向不断修正 值 直至 达到最小值;数学表达式 - 维的对称阵，称作加权阵 - 准则函数 关于 的梯度;当准则函数 取 式时; 式可写成 - 确定性问题的梯度校正参数估计递推公式 其中权矩阵的选择至关重要;随机性问题的梯度校正参数辩识方法;随机性问题;设过程的输出 模型参数 的线性组合 输入输出数据含有测量噪声;其中 和 为零均值的不相关随机噪声;置 则;现在的问题 利用输入输出数据 和 确定参数 在 时刻的估计值 使准则函数 其中;随机逼近法;随机逼近原理;准则函数的一阶负梯度 令其梯度为零;原则上 由 式可以求得使 的参数估计值 但，因为 的统计性质不知道 因此 式实际上还是无法解的;如果 式左边的数学期望用平均值来近似 则有 这种近似使问题退化成最小二乘问题;研究 式的随机逼近法解 设 是标量， 是对应的随机变量 是 条件下 的概率密度函数 则随机变量 关于 的条件数学期望为 记作 它是 的函数，称作回归函数;对于给定的 设下列方程，具有唯一的解 当 函数的形式及条件概率密度函数 都不知道时 求下列方程的解释是困难的 可以利用随机逼近法求解;随机逼近法 利用变量 及其对应的随机变量 通过迭代计算 逐步逼近方程 式的解;常用的迭代算法 Robbins – Monro 算法 Kiefer – Wolfowitz 算法;12.2 极大似然法和预报误差方法;引言;最小二乘法和梯度校正法 计算简单 参数估计具有优良的统计性质 噪声的先验知识要求也不高 极大似然法 基本思想与最小二乘法和梯度校正法完全不同;极大似然法 需要构造一个以数据和未知参数为自变量的似然函数 通过极大化似然函数获得模型的参数估计值;意味着 模型输出的概率分布将最大可能地逼近实际过程输出的概率分布 通常要求具有能够写出输出量的条件概率密度函数的先验知识 独立观测的条件下，必须知道输出量的概率分布 在序贯观测的条件下，需要确定基于 时刻以前的数据在 时刻输出量的条件概率分布;预报误差方法 需要事先确定一个预报误差准则函数 利用预报误差的信息来确定模型的参数 某种意义上 与极大似然法等价的 或极大似然法的一种推广;极大似然法和预报误差方法 优点：参数估计量具有良好的渐近性质 缺点：计算量比较大;极大似然原理;即有 或;对一组确定的数据 只是参数 的函数 已不再是概率密度函数 这时的 称作 的似然函数 以示区别有时记作 概率密度函数和似然函数有着不同的物理意义 但数学表达式是一致的;极大似然原理的数学表现 或 - 对数似然函数 - 极大似然参数估计值 使得似然函数或对数似然函数达到最大值;物理意义（极大似然原理的数学表现） 对一组确定的随机序列 设法找到参数估计值 使得随机变量 在 条件下的概率密度函数最大可能地逼近随机变量 在 （真值）条件下的概率密度函数 上式反映极大似然原理的本质，但数学上不好实现;预报误差参数辩识方法;预报误差法 不要求数据概率分布的先验知识 解决更加一般问题的一种辩识方法 极大似然法的一种推广 当数据的概率分布服从正态分布时 等价与极大似然法;预报误差准则;置 则模型 式写成 时刻的输出可以用 时刻以前的数据来刻划;在获得数据 和 的条件下 对输出 的“最好”预报可取它的条