第一讲神经网络基本原理课件.pptVIP

感知器神经网络结构单层感知器模型1958年，美国学者FrankRosenblatt首次定义了一个具有单层计算单元的神经网络结构，取名为感知器。如果包括输入层在内，应为两层。单计算节点感知器结构如图1.10。单神经元感知器结构与McCulloch和Pitts提出的M-P神经元模型十分相似，它们之间的区别在于神经元间连接权的变化。感知器的连接权定义为可变的，这样感知器就被赋予了学习的特性。图1.10感知器神经网络对于图1.10给出的感知器神经元，其净输入及输出为若令，则其中：和是感知器神经元的输出和阈值；是输入与神经元之间的权值向量；是感知器的输入向量；是感知器神经元的作用函数，这里取阶跃函数。即感知器神经网络为了便于分析，以二输入单神经元感知器为例说明感知器的分类性能。此时，类别界限为：由于单神经元感知器作用函数是阶跃函数，其输出只能是0或1。感知器主要用作模式分类。当神经元净输入x0时f(x)=0，当净输入x≥0时f(x)=1。可见，单神经元感知器可以将输入向量分为两类，类别界限为若将w1、w2和θ看作为确定的参数，那么上式实质上在输入向量空间(u1,u2)中定义了一条直线。该直线一侧的输入向量对应的网络输出为0，而直线另一侧的输入向量对应的网络输出则为1。两点决定一条直线，为了获得这条直线，只要找出该直线与空间坐标轴的交点即可。感知器神经网络—感知器模型若令u1=0，则可求出该直线在u2轴上的截距：同样，若令u2=0，则可求出该直线在u1轴上的截距：(当时)(当时)由上式可得单神经元感知器的类别界限如图1.11。当，时或当，时，感知器输出；反之，感知器输出。图1.11感知器神经网络—感知器模型对于三输入单神经元感知器，其类别界限为：若将、、和看作为确定的参数，那么上式相当在三空间(u1,u2,u3)中定义了一个平面，该平面将输入模式分为两类。三点决定一个平面，为了获得这个平面，同样需要找出该平面与空间坐标轴的交点。若令，由上式可求出该平面在轴上的截距：(当时)令，由上式可求出该平面在轴上的截距：(当时)令，由上式可求出该平面在轴上的截距：(当时)以上三点确定的平面即感知器的类别界限，该平面一侧的输入向量对应的输出为0，而另一侧的输入向量对应的输出则为1。感知器神经网络—感知器模型多神经元感知器模型由于单神经元感知器的输出只有0或1两种状态，所以只能将输入模式分为两类。而事实上输入向量模式的种类可能有许多种，为了将它们有效地分开，需要建立由多个神经元组成的感知器，其结构如右图。当单神经元感知器的输入为n()时，其类别界限为对于在n维向量空间上的线性可分模式，通过一个n输入的单神经元感知器一定可以找到一个超平面，将该模式分为两类。感知器神经网络—感知器模型图所示的神经网络输出为其中：是感知器网络的输出向量；是各神经元间的连接权系数矩阵；是感知器网络的输入向量；是感知器网络的阈值向量；是感知器神经网络中的作用函数感知器神经网络—感知器模型对于多神经元感知器而言，每个神经元都有一个类别界限。那么第i个神经元的类别界限为：其中：是输入向量ui与第i个神经元的连接权值；是第i个神经元的阈值；多神经元感知器可以将输入向量分为许多类，每一类由不同的向量表示。由于输出向量的每个元素可以取0或1两个值，所以一个由m个神经元构成的感知器网络最多可以区分出种输入模式。感知器神经网络—感知器模型感知器神经网络—感知器的学习感知器的学习实质是通过改变输入向量与神经元的连接权值或神经元的阈值，使感知器具有能够正确区分目标数据的能力。可以看出，感知器的学习属于有监督学习。设有P组样本数据为：其中是第i组样本输入向量；是该输入相应的目标输出(i={1,2,…,P})当输入向量作用到感知器网络时，其实际输出为。在感知器网络尚未训练的情况下，可能与相差甚远。感知器学习就是通过调整权系数和阈值，使其实际输出逐步逼近目标输出。FrankRosenblatt的主要贡献在于提出了训练神经网络用于解决模式识别问题的学习规则。他证明了只要求解问题的权值存在，那么其学习规则通常会收敛到正确的网络权值上。整个学习过程较为简单，而且是自动的。只要把反映网络行为的样本