现代信号处理_09精要.pptVIP

第四章 自适应信号处理 郑宝玉 最优滤波理论与Wiener滤波器 最优预测和滤波 最优预测和滤波 滤波与预测 最优预测和滤波 最优预测和滤波 最优预测和滤波 最优滤波理论 线性最优滤波器 最优滤波理论 线性最优滤波器（续） 最优滤波理论 线性最优滤波器（续） 自适应滤波基本原理 自适应滤波基本原理（续） LMS滤波器（续） LMS算法的改进 LMS算法的改进（续） LMS算法的改进（续） RLS自适应滤波器 基本思想 RLS算法 RLS滤波算法与Kalman滤波算法 RLS自适应滤波器 基本思想 把最小二乘法(LS)推广为一种自适应算法，用来设计自适应的横向滤波器，利用n-1时刻的滤波器抽头权系数，通过简单的更新，求出n 时刻的滤波器抽头权系数。这样一种自适应的最二乘算法称为递归(递推)最小二乘算法, 简称RLS算法。 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 RLS自适应滤波器（续） RLS算法 式中w(n)为第n步迭代(亦即时刻n)的权向量， 为第n步 迭代的更新步长，v(n)为第n步迭代的更新方向(向量) 最广泛使用的自适应算法是“下降算法” 下降算法的两种实现方式 - 自适应梯度算法：LMS算法及其改进算法 - 自适应高斯－牛顿算法：RLS算法及其改进算法 本节介绍LMS类算法，下一节介绍RLS类算法。 LMS滤波器 最陡下降法： 随机优化问题： Wiener滤波器： 真实梯度 LMS滤波器（续） 梯度下降算法： 步长参数，学习速率 真实梯度 缺点：真实梯度含数学期望，不易求得。 梯度估计 改进： 瞬时梯度： 先验估计误差 LMS滤波器（续） 基本LMS算法： 瞬时梯度分析： 最陡下降法 LMS算法 搜索方向为梯度负方向，每一步更新都使目标函数值减小（“最陡下降含义”）。 搜索方向为瞬时梯度负方向，不保证每一步更新都使目标函数值减小，但总趋势使目标函数值减小。 LMS滤波器（续） 梯度下降法要求：不同时间的梯度向量（搜索方向）线性独立。 LMS算法的独立性要求： 要求不同时间的输入信号向量 线性独立（因为随时梯度向量为 ）。 LMS滤波器（续） 自适应学习速度参数及收敛性 （3）“换档变速”方法：固定＋时变 （2） 时变学习速度： （递减），模拟退火法则 （1） 固定学习速度： （常数） 缺点： 偏大 收敛快 跟踪性能差 偏小 收敛慢 跟踪性能好 LMS滤波器（续） 例1. （先搜索，后收敛） 例2. （先固定，后指数衰减） （4）自适应学习速度：“学习规则的学习” 和 正的常数 而且可以证明LMS自适应滤波器的权向量收敛于维纳解： (5) 算法收敛性 前已指出，瞬时梯度向量是真实梯度向量的无偏估计： 条件是 LMS算法还必须兼顾收敛速度和失调,它来自梯度估计误差: ? 若 自适应产生，则称为自适应步长的LMS算法 LMS算法的几种变形 ? 若 常数，则称为基本LMS算法 ? 若 , 则称为归一化LMS算法 结论：这些算法通常称为LMS类算法－梯度算法。 从LMS算法导出牛顿法 前面已导出维纳最优解为 它由梯度 得出，其中 用 左乘上式两边, 并将结果代入维纳解公式, 得 写成更一般的迭代形式(即牛顿迭代公式)： 从LMS算法导出牛顿法（续） 上式可写成更一般的迭代形式： 这就是所谓牛顿法基本迭代式。其中 称为牛顿方向。 统一算法 LMS法与牛顿法可统一为更一般的下降算法: 取不同的 就构成不同的自适应算法。 内 容 正交性原理 Wiener滤波器 梯度下降算法 横向LMS自适应滤波器 横向RLS自适应滤波器 Kalman滤波器 自适应格型滤波器 盲自适应滤波器 自适应滤波器的应用 基本方程 考虑指数加权的最小