现代信号处理ch3-1-3.ppt

2021/2/7 * 二、最优滤波理论与维纳滤波器 维纳滤波器(续) 关于维纳滤波器的两个重要结论 由Wiener解表达式可得维纳滤波器的两个重要结论: ? 维纳滤波器最优抽头权向量的计算需要已知以下统计量: 1) 输入向量的自相关矩阵R 2) 输入向量与期望向量的互相关向量r ? 维纳滤波器实际上是无约束优化最优滤波问题的解。 2021/2/7 * 主要内容 随机信号的最优预测和滤波 最优滤波理论与维纳滤波器 横向LMS自适应数字滤波器 横向RLS自适应数字滤波器 自适应格型滤波器 快速横向滤波（FTF）自适应算法 无限脉冲响应自适应滤波器 盲自适应信号处理 自适应滤波器应用 2021/2/7 * 自适应滤波器包括两个过程：滤波过程和自适应过程。 此仅考虑后者,即滤波器的自适应实现问题；且主要考虑 FIR滤波器的自适应实现，其关键是自适应算法。 FIR滤波器的自适应实现指的是：M 阶FIR滤波器的抽 头权系数w1,…,wM-1可以根据估计误差e(n)的大小自动调 节，使得误差在某个统计最优准则下最小。 滤波器设计最常用的准则是MMSE准则，即是使滤波器 实际输出y(n)与期望响应d(n)之间的均方误差 最小; 最终达到Wiener解。 三、横向LMS自适应数字滤波器 基本原理 2021/2/7 * 式中w(n)为第n步迭代(亦即时刻n)的权向量, 为第n步 迭代的更新步长,v(n)为第n步迭代的更新方向(向量) 三、横向LMS自适应数字滤波器 基本原理（续） 最广泛使用的自适应算法是“下降算法” 下降算法的两种实现方式 - 自适应梯度算法:LMS算法及其改进算法 - 自适应高斯－牛顿算法:RLS算法及其改进算法 本节介绍LMS类算法,下一节介绍RLS类算法。 2021/2/7 * 表示滤波器在n时刻的估计误差,并定义均方误差: 三、横向LMS自适应数字滤波器 基本LMS算法 算法推导 为代价函数;它相对于滤波器抽头权向量w的梯度为 它是式(4)的向量形式。若上式中的数学期望项用它的瞬时值代替, 即得真实梯度向量的估值(瞬时梯度 ): 令 2021/2/7 * 其中 三、横向LMS自适应数字滤波器 基本LMS算法 算法推导(续) 设用最速下降法更新滤波器权向量,则有如下算法: 式 (14)所示算法就是著名的最小均方自适应算法,简称LMS算法。它由Widrow在20世纪60年代初提出的。 2021/2/7 * 而且可以证明LMS自适应滤波器的权向量收敛于维纳解: 三、横向LMS自适应数字滤波器 基本LMS算法 算法收敛性 容易验证,瞬时梯度向量是真实梯度向量的无偏估计: 条件是 LMS算法还必须兼顾收敛速度和失调,它来自梯度估计误差: （ 是 的最大特征值） 2021/2/7 * 三、横向LMS自适应数字滤波器 LMS算法的改进 LMS算法的几种变形 ? 基本LMS算法 ? 归一化LMS算法 ? 步长自适应的LMS算法 从LMS算法导出牛顿法 2021/2/7 * ? 若 自适应产生,则称为自适应步长的LMS算法 三、横向LMS自适应数字滤波器 LMS算法的改进 LMS算法的几种变形 ? 若 常数，则称为基本LMS算法 ? 若 , 则称为归一化LMS算法 结论:这些算法通常称为LMS类算法－梯度算法。 2021/2/7 * 三、横向LMS自适应数字滤波器 LMS算法的改进 从LMS算法导出牛顿法 前面已导出维纳最优解为 它由梯度 得出，其中 用 左乘上式两边, 并将结果代入维纳解公式, 得 写成更一般的迭代形式(即牛顿迭代公式): 2021/2/7 * 三、横向LMS自适应数字滤波器 LMS算法的改进 从LMS算法导出牛顿法（续） 上式可写成更一般的迭代形式: 这就是所谓牛顿法基本迭代式。其中 称为牛顿方向。 统一算法 LMS法与牛顿法可统一为更一般的下降算法: 取不同的 就构成不同的自适应算法。 2021/2/7 * 一、随机信号的最优预测和滤波 波形估计与动态估计 滤波与预测 维纳滤波与卡尔曼滤波 2021/2/7 * 一、随机信号的最优预测和滤波 波形估计与动态估计 估计问题 在许多实际问题中,需要研究随时间变化的随 机变量或随机矢量的估计问题,即按照某种最 优准则对随时间变化的随