第3b自适应线性单元.pptxVIP

3.3 自适应线性单元;自适应线性元件（Adaptive Linear Element，简称Adaline）由威德罗和霍夫提出。 与感知器的不同： （1）激活函数为线性函数，输出可以是任意值，而感知器只能取0和1； （2）算法不同：采用W-H学习规则（最小均方差，LMS）对网络进行训练，收敛速度比感知器快，精度更高。 和感知器一样用于分类（符号函数）；模拟输出，做为调节误差的手段，由于模拟输出时变换函数为线性，故称为线性单元ADLINE。 功能：将期望输出与实际输出的误差，做为调整信号不断在线调整权向量，以保证在任何时刻，期望与实际输出相等。;第3页/共20页;第4页/共20页;3.3.1 Adaline模型和结构 具有n个输入的自适应线性神经元模型如图。神经元有一个线性激活函数，被称为Adaline。偏差作为可调参数，提供额外可调的自由变量，以获得期望的网络特性。 线性神经元可训练学习一个与之对应的输入输出函数关系，或线性逼近任意一个非线性函数，但不能产生任何非线性的计算特性。;;W—H规则仅能够训练单层网络，但单层线性网络与多层线性网络具有同样的能力，即对于每一个多层线性网络，都具有一个等效的单层线性网络与之对应。 在反向传播法产生以后，威德罗又将其自适应线性网络扩展成多层，甚至将激活函数也扩展成非线性的了。 ;3.1.2 W-H学习规则 由威德罗和霍夫提出,用来修正权矢量