自适应信号处理(最小二乘自适应滤波1)要点.ppt

最小二乘自适应滤波 引 言 基于最小均方误差(MMSE)准则的算法, 如最陡下降法、LMS算法等主要 缺点是: ●收敛速度慢; ●对非平稳信号的适应性较差. 为克服以上缺点, 引入“最小二乘(LS)”准则. 理论与实验均表明, 最小二乘估计的性能优于基于MMSE准则的算法. 1.最小二乘准则定义 最小二乘准则, 是以误差的平方和最小作为最佳估计的一种误差准则. 定义如下: ●对于平稳输入信号, 定义优化准则 (1) 式中, 是误差信号的平方和, 是 时刻的误差信号, 即 其中 、 分别是 时刻的期望信号和输入信号矢量, 是滤波器的权 矢量. 注意: 式(1)中的 表示“瞬时”的概念, 不同时刻 的输入矢量 是不同的. 这表明, 对每一时刻的所有输入信号, 都重新估计其误差, 并使这些误差的平方和 最小. ●对于非平稳输入信号, 优化准则修正为 (2) 式中指数加权因子 称为“遗忘因子”, 0＜ ＜1. 式(1)中引入因子是为了更好地实现对非平稳信号的跟踪: 即时刻 越接近 ,数 据越新, 加权将越重; 反之, 距 越远时刻的数据, 权重越小. 由上可知, 最小二乘滤波(LS滤波)可描述为: 式中i 的取值范围，取决于采用哪个时间段的输入信号x(i)来估计d(i)和计算误差e(i) 。 调整滤波器的权矢量 ,使得在每个时刻对所有已输入的信号而言, 滤波器输出的误差平方和最小. 2.与最小均方误差(LMS)滤波的比较 LMS滤波是满足 的滤波, 它是以集合平均为基础的, 属于统 计分析方法. LS滤波是一种瞬时分析方法, 即在每个时刻对所有已输入信号, 都要 重新评估其平方和, 并通过调整权矢量使其达到最小. 1 最小二乘滤波 最小二乘滤波的基本算法是下节要讨论的递归最小二乘(RLS)算法, 该 算法实际上是FIR维纳滤波器的一种递归实现. 1.FIR自适应滤波器的一般分析 设有一个 阶FIR自适应滤波器(参见图1), 在时刻 的数据状态 如下: （1） 个系数值为 , 其中 为权系数样本的标号; （2）已获得的 个输入信号数据为 , 作为一般情 况， ,下面假设 ; （3）期望信号为 . 该滤波器的输出 , 是期望信号 的估计值: 由于式中 的起始标号为1, 因此可令 , 上式变为 如图1所示, 滤波器在 时刻的输出为 , (3) 现用 时刻的滤波系数 处理数据, 则在时刻 的估计误差为 (4) 图1 M 阶FIR滤波器在I 时刻的输出 z-1 ? … ? z-1 z-1 ? ? 式(3)表达的是卷积运算, 计算过程可用图2予以说明. 图中假 定 2. 前加窗法最小二乘准则 由图2, 的求和范围可有以下4种不同的情况, 并由此得到4种不同的最小二乘方法: （1） ——相关法 计算 全部时间长度内估计误差[即从 到 ]的平方加 权和. 这时, 相当于在已知数据段的前后都补了零取样值. 这种方法称 为“相关法”. （2） ——前加窗法 计算当前时刻 前的一部分误差的平方加权和. 这时, 相当于在已知 数据段的前面补了零取样值. 这种方法称为“前加窗法”. （3） ——后加窗法 计算 时刻以后的一部分误差的平方加权和. 这时, 只在已知数据 段后面补了零取样值. 这种方法称为“后加窗法”. （4） ——协方差法 只计算中间一部分误差的平方加权和. 这意味着在数据的段前后都没 有添加零取样值. 这种方法称为“协方差法”. 采用前加窗法, 误差准则可表示为 (5) 将式(4)表示为矩阵形式: 其中， 现定义: ● 维权矢量 (6) ● 维输入信号矢量 (7) ● 维期望信号矢量 (6) ● 维误差信号矢量 (8) ● (行) (列)数据矩阵 (9a) 以及 的转置矩阵: (9b)