第二讲最速下降法学习课件.pptVIP

自适应信号处理 第二讲 最速下降算法 Y.J.Pang 最速下降法（method of steepest descent）是一种基于梯度的自适应方法。 最速下降法可用反馈系统来表示，滤波器的计算式一步一步迭代进行的。从该意义上讲，最速下降法是递归的。 在适当条件下，最速下降法的解收敛于维纳解而不需要求输入向量相关矩阵的逆矩阵。 使代价函数J获得最小值的充要条件是其对应的估计误差 e(n)于n时刻进入期望响应估计的每个输入样值。 2.1 最速下降法的基本思想 局部迭代下降思想 首先假设一个初始权向量 ，然后产生一系列权向量 能够使代价函数 在算法的每次迭代都是下降的，也就是满足如下表达式 最速下降法其实就是一种简单形式的迭代下降，它主要思想是沿着最速下降方向连续不断调整权向量 。最速下降方向也就是负梯度方向 梯度向量表示如下 通过以上可得最速下降算法