神经网络讲义第05讲 自适应线性元件.docVIP

第五章 自适应线性元件 自适应线性元件(Adaptive Linear Element，简称Adaline)也是早期神经网络模型之一，它是由威德罗（Widrow）和霍夫（Hoff）首先提出的。它与感知器的主要不同之处在于其神经元有一个线性激活函数，这允许输出可以是任意值，而不仅仅只是像感知器中那样只能取0或1。另外，它采用的是W—H学习法则，也称最小均方差(LMS)规则对权值进行训练，从而能够得到比感知器更快的收敛速度和更高的精度。 自适应线性元件的主要用途是线性逼近一个函数式而进行模式联想。另外，它还适用于信号处理滤波、预测、模型识别和控制。 5．1 自适应线性神经元模型和结构 一个线性的具有r个输人的自适应线性神经元模型如下图所示。这个神经元有一个线性激活函数，被称为Adaline如图5．1(a)所示。和感知器一样，偏差可以用来作为网络的一个可调参数，提供额外可调的自由变量以获得期望的网络特性。线性神经元可以训练学习一个与之对应的输入输出的函数关系，或线性逼近任意一个非线性函数，但它不能产生任何非线性的计算特性。 图5. 1 自适应线性神经网络的结构 当自适应线性网络由s个神经元相并联形成一层网络，此自适应线性神经网络又称为Madallne如图5．1(b)所示。 W—H规则仅能够训练单层网络，但这并不是什么严重问题。如前面所述，单层线性网络与多层线性网络具有同样的能力