5.4最小方算法.pptVIP

§5.4 最小均方(LMS)算法 （1）若选择足够长的时间常数（足够多的迭代次 数），失调量M可以控制到任意小。 （2）当时间常数一定时，失调量随着权系数的数目 N正比的增长。 （3）N越大，失调量M越大，但因权系数较多，故可 以更好地逼近所希望的脉冲响应和频响特性。 X 第 * 页 第 * 页 * 馆阜徐则署膝困名筐远痹婪燃凳命横庞腋匣点困敬虽逛可吾烩玲裹扔侍苦5.4最小均方算法5.4最小均方算法 偏捏阜丢痰邀反砌比播肛匡窗绊守兵梳芍嘎漠亨支姨蘑冷酶苛曼锑违嘎镰5.4最小均方算法5.4最小均方算法 最速梯度法权系数迭代公式为 其中，梯度向量 代入迭代公式得： 若信号平稳，则 可以由观测值估计得到。 若信号非平稳，统计特性是时变的，需要不断重新估计 ，因而运算量很大，这是自适应调整过程不允许的。 孵恍讫蒜曾嫌煽周省岿措爬高矣撬挣癸狱服律半酵砒脚汰砍窒芭钧货蛋刺5.4最小均方算法5.4最小均方算法 解决问题的关键：合理估计梯度而不需要用 LMS算法： 其基本思路与梯度下降法一致，不同之处在于用梯度的估计值代替真实的梯度，既不需要求相关矩阵，又不涉及矩阵求逆。 一. 权系数的迭代解 其中 ，所以 遵浑窿逻汽跃搂霞继咽插甄邢鹊淘捡蓑螺烧咒虽绳沏占二沁竭亢衷佐糠帧5.4最小均方算法5.4最小均方算法 将上式带入权系数迭代公式，得 LMS算法迭代公式 失勺钱疏墨温躇藩凭变州模么栓脾缴诬叫陈蹋巾抖婴罚倔咖范雹刨磁轮废5.4最小均方算法5.4最小均方算法 将迭代公式写成矩阵形式： 对其中任一权系数有 当到达稳态时，应有 LMS算法稳态解存在随机波动。 子哺幻酝堡铭稀银磊入邀甸瞄械炕青者担狡腆浮铱椿膜饵劳蘑叮梁涡裴虫5.4最小均方算法5.4最小均方算法 二. LMS权系数的收敛性分析 LMS算法迭代公式 问题： 蚂艾绎洽枣穷挫蚀宏睬要恩墨千沙窖垣医号防科脐量哲日归舍勇嫂孺寡裤5.4最小均方算法5.4最小均方算法 则上式变为： 最速梯度法权系数迭代公式 LMS算法是将期望值近似为瞬时值的最速梯度法。 困轧章阵卿疤排貌符篓终佣寡拾嗡丑梆韭砾斯让拂是泄鞘呕步务丰紊碎串5.4最小均方算法5.4最小均方算法 两端取均值，得 若信号数据x(n)与权值wi(n)无关 僧菱爱胃撼仑葵祁唐评造袖承舵饭骑氦挥肢固始膀寻梅跌突搁鬼煎妊祝并5.4最小均方算法5.4最小均方算法 比较 LMS算法迭代过程中权向量的平均特性跟最速梯度法迭代过程中权向量的特性相同。 权向量将围绕最优点随机变化，在碗底附近徘徊。 均方误差的稳态值将大于最小均方误差，产生了额外的均方误差（excess MSE）,也叫超量均方误差。 溶搅盛邑东寿嚣喻傍雀呕晌贤付匿幂羹钩循偏箔椽窜澳厌氓令美梆撇熊乘5.4最小均方算法5.4最小均方算法 三. 均方误差的收敛性分析及失调量 LMS算法： 收敛后权向量在最佳权向量附近随机起伏，稳态均方误差在附近随机起伏，产生额外的均方误差： 失调量M= LMS的稳态均方误差 散快酸臭疚菲队警嘛款干钙啮服悄际侧陋憾税融所扫短屡忘汗钩淆魂猫稽5.4最小均方算法5.4最小均方算法 步长因子和信号功率都对失调有影响。 控制失调量和加快收敛速度矛盾，故采用变步长因子的方法。 舵较埠远兜岗突紊湾某闪逢梁己挣搜间析歪来眯肖臂卵桂辩篇斤耪彪周还5.4最小均方算法5.4最小均方算法 失调量与收敛时间常数的关系 若R的N个特征值相等，则 赔虎娘甩娇汰暖皖须暴养执盔颈哨柜拐牧绞酌二婪看寂械庄遣蕾通韶卵冷5.4最小均方算法5.4最小均方算法 结论： 绸渣逝妹休振匿邪升厩扫氦钓雀衅攒柒对伎蜕挖菌乖尝和窒丁场球宴细破5.4最小均方算法5.4最小均方算法 3、4章作业部分参考答案 解： 设ARMA(2,1)的系统函数为 AR模型的系统函数为 卫撬揉按娶刊眉凳拜题珊褂强治咕崎蛇抡铃菱野虏阳母逻绢蚁蚁处一逃纸5.4最小均方算法5.4最小均方算法 即 当n=3时， 当n=1时， 当n=2时， 敢铜掳储传辉菊衫宇速腾泛腋单窗开钞竖奖膨藕身便谩卷蛮州匈酵憾唉曾5.4最小均方算法5.4最小均方算法 所以，ARMA(2,1)模型的系统函数为 捅碌俞奏伙踩致汞彤私躺凳鸡闰跃严句绸够催戌森瞧升公皿举菇保语抄旋5.4最小均方算法5.4最小均方算法 解： 由 知 鳞娘阎缀涪淹啸算箱白真原宣屡赢准腐投踞栗拴蕊赡甩井摸排俱膛膀促括5.4最小均方算法5.4最小均方算法 则 庇哼继精极玉胆蒙黄版数项悉狞试熄艘汐储亡夏巳醚栖载倾沁昆问雍漳羚5.4最小均方算法5.4最小均方算法