人工神经网络原理及其应用 第05讲 自适应线性元件.pptVIP

第05章 自适应线性元件 自适应线性元件(Adaptive Linear Element，简称Adaline) 由威德罗（Widrow）和霍夫（Hoff）首先提出的 它与感知器的主要不同之处在于其神经元有一个线性激活函数，这允许输出可以是任意值，而不仅仅只是像感知器中那样只能取0或1。 它采用的是W—H学习法则，也称最小均方差(LMS)规则对权值进行训练 自适应线性元件的主要用途是线性逼近一个函数式而进行模式联想。 5．1自适应线性神经元模型和结构 5．2 W－H学习规则 W—H学习规则是由威德罗和霍夫提出的用来修正权矢量的学习规则 采用W—H学习规则可以用来训练一定网络的权值和偏差使之线性地逼近一个函数式而进行模式联想(Pattern Association)。 根据梯度下降法，权矢量的修正值正比于当前位置上E(W，B)的梯度，对于第i个输出节点有： η为学习速率。在一般的实际运用中，实践表明，η通常取一接近1的数，或取值为： W—H学习规则的函数为：learnwh.m来实现，加上线性自适应网络输出函数purelin.m，可以写出W—H学习规则的计算公式为： A＝purelin(W*P)； E＝T—A； [dW，dB]＝learnwh(P，E，h)； W＝W十dW； B＝B十dB； 采用W—H规则训练自适应线性元件使其能够得以收敛的