lms算法原理及推导.doc

第八章 自适应滤波 在第五章和第六章中，我们介绍了维纳滤波和卡尔曼滤波。维纳滤波器参数是固定的， 适合于平稳随机信号。卡尔曼滤波器参数是时变的，适合于非平稳随机信号。然而，只有在 信号和噪声的统计特性先验已知的情况下，这两种滤波技术才能获得最优滤波。在实际应用 中，常常无法得到信号和噪声统计特性的先验知识。在这种情况下，自适应滤波技术能够获 得极佳的滤波性能，因而具有很好的应用价值。 常用的自适应滤波技术有：最小均方（LMS）自适应滤波器、递推最小二乘（RLS）滤 波器、格型滤波器和无限冲激响应（IIR）滤波器等。这些自适应滤波技术的应用又包括： 自适应噪声抵消、自适应谱线增强和陷波等。现在，已经有许多信号处理书籍全面介绍了自 适应滤波技术。考虑到生物医学工程专业大三本科生的学习基础，本章首先介绍最小均方 （LMS）自适应滤波器原理，在此基础上介绍自适应噪声抵消器及其生物医学应用，这样 安排更能够突出本教材的宗旨。 第一节 LMS 自适应维纳滤波器 LMS 自适应滤波器是使滤波器的输出信号与期望响应之间的误差的均方值为最小，因 此称为最小均方（LMS）自适应滤波器。 8.1.1 基本LMS 算法 构成自适应数字滤波器的基本部件是自适应线性组合器，如图8-1 的所示。设线性组合 器的M 个输入为x(k ?1)L, x(k ? M ) ，其输出y(k) 是这些输入加权后的线性组合，即 M y(k) W x(k ? i) = ∑ （8-1-1） i i=1 图8-1 自适应线性组合器 定义权向量W = [W ,W ,W ,LW ]T ，且 1 2 3 m X (k) = [X ((k ?1)T),L, X ((k ? M )T)]T （8-1-2） 在图8-1 中，令d(k) 代表“所期望的响应”，并定义误差信号 ε(k) = d(k) ? y(k) M = ? ∑ ? d(k) W X (k i) i i=1 （8-1-3） 式（8-1-3）写成向量形式 ε(k) = d(k) ?W X (k) T = d(k) ? X (k)W T （8-1-4） 误差平方为 ε 2 (k) = d2 (k) ? 2d(k)XT (k)W +W T X(k)XT (k)W 上式两边取数学期望后，得均方误差 { } { } { } { } E ε 2 (k) = E d2 (k) ? 2E d(k)XT (k) W +W T E X (k)XT (k) W （8-1-5） 定义互相关函数行向量 RT ： xd { ( ) ( )} R = E d k X T k （8-1-6） T xd 和自相关函数矩阵 { ( ) ( )} R = E X k X k （8-1-7） T XX 则均方误差（8-1-5）式可表述为 { } { } E ε 2 (k) = E d2 (k) ? 2RT W +WT R W （8-1-8） xd XX 这表明，均方误差是权系数向量 W 的二次函数，它是一个中间向上凹的抛物形曲面，是具 有唯一最小值的函数。调节权系数使均方误差为最小，相当于沿抛物形曲面下降找最小值。 可以用梯度来求该最小值。 将式（8-1-8）对权系数 W 求导数，得到均方误差函数的梯度 { } ?(k) = ?E ε (k) 2 = T ?2E ε 2 (k) ?E ε 2 (k) ? { } { } ? ? ，L， ? ? ?W ?W ? ? 1 M = ?2R + 2R W (8-1-9) Xd XX 令?(k) = 0 ，即可求出最佳权系数向量 W R R （8-1-10） = ?1 opt XX Xd 它恰好是第五章研究 Wiener 滤波器遇到过的 Wiener- Hopf 方程。因此，最佳权系数向量W opt 通常也叫作 Wiener 权系数向量。将W 代入式（8-1-8）得最小均方误差 opt { } { } E ε 2 k = E d2 k ? R W （8-1-11） ( ) ( ) T xd opt min 利用式（8-1-10）求最佳权系数向量的精确解需要知道 R R 的先验统计知识，而且还需 XX 和 Xd 要进行矩阵求逆等运算。Widrow and Hoff (1960)提出了一种在这些先验统计知识未知时求 W opt 的近似值的方法，习惯上称为 Widrow and Hoff LMS 算法。这种算法的根据是最优化方 法中的最速下降法。根据最速下降法，“下一时刻”权系数向量W (k +1) 应该等于“现时刻” 权系数向量W (k) 加上一个负均方误差梯度 ??(k) 的比例项，即 W (k +1) =W (k) ? μ?(k) （8-1-12） 式中， μ 是一个控制收敛速度与稳定性的常数，称之为收敛因子。 不难看出，LM