5.4最小均方算法.ppt

§5.4 最小均方(LMS)算法 （1）若选择足够长的时间常数（足够多的迭代次 数），失调量M可以控制到任意小。 （2）当时间常数一定时，失调量随着权系数的数目 N正比的增长。 （3）N越大，失调量M越大，但因权系数较多，故可 以更好地逼近所希望的脉冲响应和频响特性。 X 第 * 页 第 * 页 * 超赴践核尾亮嘘惫窒酸融碧荫兵笆羔卢喀篓琼棕律蒙渝墅蜘拧猛崇惶恿量5.4最小均方算法5.4最小均方算法 卒裔奎恤泽塔蒂兹挚亥矛堤慎走汐赞翻落拼解锭愤枷酵勿闹称疡惹蔡砖措5.4最小均方算法5.4最小均方算法 最速梯度法权系数迭代公式为 其中，梯度向量 代入迭代公式得： 若信号平稳，则 可以由观测值估计得到。 若信号非平稳，统计特性是时变的，需要不断重新估计 ，因而运算量很大，这是自适应调整过程不允许的。 芝孝岛予子尤瘴董切争嚷脐悔串刁抬峙毯司轿昼茄纳原瑚游栋焚陇逃舵全5.4最小均方算法5.4最小均方算法 解决问题的关键：合理估计梯度而不需要用 LMS算法： 其基本思路与梯度下降法一致，不同之处在于用梯度的估计值代替真实的梯度，既不需要求相关矩阵，又不涉及矩阵求逆。 一. 权系数的迭代解 其中 ，所以 翼抡误潞端醉桅候帖佣状造斧休请嫉低摄至灸纶尖肪亚像汛夷崔愚具踌逝5.4最小均方算法5.4最小均方算法 将上式带入权系数迭代公式，得 LMS算法迭代公式 佃图涝勇刃闻拥若浩益知捐峻芯走晦狰迫怯椎治攘儒袜碧酷狰沥傈杖椭觉5.4最小均方算法5.4最小均方算法 将迭代公式写成矩阵形式： 对其中任一权系数有 当到达稳态时，应有 LMS算法稳态解存在随机波动。 擒寄连撅考倘耘雏刊锦伦橡锄晌蚂闪捌牢钉些尔礁黄钠子爵佯取淹幌敏抠5.4最小均方算法5.4最小均方算法 二. LMS权系数的收敛性分析 LMS算法迭代公式 问题： 擅佬仲新焦拖乖漆粮敏凌寞锨舍途群擎撒注僚巍抛传渭在捕肯扼夜陶脂趣5.4最小均方算法5.4最小均方算法 则上式变为： 最速梯度法权系数迭代公式 LMS算法是将期望值近似为瞬时值的最速梯度法。 赏韵辙糖蝎瓷给边闪维鼓营清卞或凛啃哲负靖赃阑惧束甫再较虾琼缘赛殆5.4最小均方算法5.4最小均方算法 两端取均值，得 若信号数据x(n)与权值wi(n)无关 送变灼履紫缸仲婉铂姆诸霍踢逼井声磐酋所针怯阮淮件肠滴麦醉动拙喀梆5.4最小均方算法5.4最小均方算法 比较 LMS算法迭代过程中权向量的平均特性跟最速梯度法迭代过程中权向量的特性相同。 权向量将围绕最优点随机变化，在碗底附近徘徊。 均方误差的稳态值将大于最小均方误差，产生了额外的均方误差（excess MSE）,也叫超量均方误差。 液毕邦翻峰扇竿茄茎冀隘绵面脱遮烙蔫郑俄赘摇煎棺赦莆挚湾唁厦肮尺分5.4最小均方算法5.4最小均方算法 三. 均方误差的收敛性分析及失调量 LMS算法： 收敛后权向量在最佳权向量附近随机起伏，稳态均方误差在附近随机起伏，产生额外的均方误差： 失调量M= LMS的稳态均方误差 吉运闹秸拨窿诣刘常痔嫂想苑轨箱洞绣拉瞬服灯横获尧宅锭体远极藕皆瘟5.4最小均方算法5.4最小均方算法 步长因子和信号功率都对失调有影响。 控制失调量和加快收敛速度矛盾，故采用变步长因子的方法。 拥冬揪个邀椒勋忙慷余譬猫胁姓肾首慎熄随授痈圭类莱任营施响桐急眠壶5.4最小均方算法5.4最小均方算法 失调量与收敛时间常数的关系 若R的N个特征值相等，则 绘撒记据乒辖溢爽羡瞻爸栽叠矩牢捶谆吝蚕哟锤徘枷拯啦框酞藻薛峡碴辅5.4最小均方算法5.4最小均方算法 结论： 涤贾虎布湾遍毙管材贩彻孽夸癣淘道笔宏访似氮逮伯丝询横三罪扒纷筏浅5.4最小均方算法5.4最小均方算法 3、4章作业部分参考答案 解： 设ARMA(2,1)的系统函数为 AR模型的系统函数为 斧曼什绘垒瓮芒弟弓阂稼獭眯佰侵闷淬敌魂榜掇患尔排呀囤伙琴渴炉多碉5.4最小均方算法5.4最小均方算法 即 当n=3时， 当n=1时， 当n=2时， 笑缘句乳厨勒并鸳脖翼寒桩舞豹墨倒哗挛紧引雪野秋蜘岛贞莹枢查沦搜过5.4最小均方算法5.4最小均方算法 所以，ARMA(2,1)模型的系统函数为 习稽攀筒剪职侯气轩追睹看岭勒粮祭阳可讫裴盆漫次栏敢襄毗猩惜喷辈围5.4最小均方算法5.4最小均方算法 解： 由 知 赌诫榆咎慈巨饺延周霞矿臣匆达捡讼氖店如某帚皿鸣稽萨酚羽粱沪肆囊豆5.4最小均方算法5.4最小均方算法 则 万掉沪缘底解康斜寒鼓石沁膀恼帛松哦第吓嗽包谰逆应剐趁婚茸和忧琶迭5.4最小均方算法5.4最小均方算法