第二讲最速下降法.pptVIP

自适应信号处理自适应信号处理第二讲最速下降法第1页，共28页，星期日，2025年，2月5日最速下降法（methodofsteepestdescent）是一种基于梯度的自适应方法。最速下降法可用反馈系统来表示，滤波器的计算式一步一步迭代进行的。从该意义上讲，最速下降法是递归的。在适当条件下，最速下降法的解收敛于维纳解而不需要求输入向量相关矩阵的逆矩阵。第2页，共28页，星期日，2025年，2月5日线性最优滤波：问题综述第3页，共28页，星期日，2025年，2月5日这里滤波器需要两个约束条件： 1.滤波器是线性的 2.滤波器是离散时间的滤波器的具体实现依赖的两个选择： 1.滤波器的冲激响应选择 （FIR,IIR) 2.统计优化准则的选择问题 1）估计误差的均方值 2）估计误差的绝对值期望值 3）估计误差的绝对值的三阶或高阶期望值第4页，共28页，星期日，2025年，2月5日滤波器问题的本质表示如下： 给定一个输入取样序列u(0),u(1),u(2),…,设计一个线性离散滤波器[其输出y(n)提供了期望响应d(n)的一个估值]，使得其估计误差的均方值e(n)[定义为期望响应d(n)与实际响应y(n)之差]为最小。两种数学解决方案 1正交性原理 2误差性能曲面第5页，共28页，星期日，2025年，2月5日正交性原理n时刻滤波器输出为线性卷积误差代价函数—均方误差第6页，共28页，星期日，2025年，2月5日使代价函数J获得最小值的充要条件是其对应的估计误差e(n)于n时刻进入期望响应估计的每个输入样值。第7页，共28页，星期日，2025年，2月5日第8页，共28页，星期日，2025年，2月5日2.1最速下降法的基本思想无约束最优化的数学表示如下：其中是一个代价函数，是个未知向量是要寻找的最优解。第9页，共28页，星期日，2025年，2月5日局部迭代下降思想首先假设一个初始权向量，然后产生一系列权向量能够使代价函数在算法的每次迭代都是下降的，也就是满足如下表达式最速下降法其实就是一种简单形式的迭代下降，它主要思想是沿着最速下降方向连续不断调整权向量。最速下降方向也就是负梯度方向梯度向量表示如下第10页，共28页，星期日，2025年，2月5日通过以上可得最速下降算法其中n表示迭代进程，是步长参数，是正常数。在从n到n+1的迭代过程中，权向量的调整量为第11页，共28页，星期日，2025年，2月5日第12页，共28页，星期日，2025年，2月5日假设w为复值向量，那么梯度向量g也是复值向量。所以使用共轭转置（埃尔米特转置）因此上式可变为从上式可以看出当为正数时，因此，随着n的增加，代价函数减小，当时，代价函数趋于最小值。第13页，共28页，星期日，2025年，2月5日2.2最速下降算法应用于维纳滤波器图2.1自适应横向滤波器的结构第14页，共28页，星期日，2025年，2月5日通过比较期望响应及其估计值，可以得到一个估计误差即其中是抽头权向量与抽头输入向量的内积如