人工神经网络——感知机.pptVIP

——感知机 人工神经网络是模拟人脑思维方式的数学模型，从微观结构和功能上对人脑进行抽象和简化，模拟人类智能。人工神经网络(简称神经网络)也是由大量的、功能比较简单的形式神经元互相连接而构成的复杂网络系统，用它可以模拟大脑的许多基本功能和简单的思维方式。 我们不可能对生物学上的神经网络作完全的了解，只可能在某种成度上描述我们所了解的情况。同样，人工神经网络也只可能是在某种程度上对真实的神经网络的一种模拟和逼近。 人工神经元模型，如图所示 某个神经元 j 的输入—输出关系为 其中， 为阀值， 为连接权，f(?)为变换函数，也称活化函数(activation function)。  我们以单层感知器来说明： 两个输入 x1 和 x2 。 一个阀值 θ 两个待调整的权值W1和W2 决策函数为 样本集分别属于2类。 设有N个训练样本 当给定某个样本p的输入/输出模式对时，感知机输出单元会产生一个实际输出向量，用期望输出（样本输出）与实际输出之差来修正网络连接权值。 权值修改采用简单的误差学习规则 基本思想： 利用某个神经单元的期望输出与实际输出之间的差来调整该神经单元与上一层中相应神经单元的的连接权值，最终减小这种偏差。 即：神经单元之间连接权的变化正比于输出单元期望输出与实际的输出之差 输入矢量P，输出矢量Y，目标矢量为T的感知器网络，其学习规则为： 如果第i个神经元的输出是正确的，即有：yi＝ti，那么与第i个神经元联接的权值wij和偏差值bi保持不变； 如果第i个神经元的输出是0，但期望输出为1，即有yi＝0，而ti＝1，此时权值修正算法为：新的权值wij为旧的权值wij加上输入矢量pj；类似的，新的偏差bi为旧偏差bi加上它的输入1； 如果第i个神经元的输出为1，但期望输出为0，即有yi＝1，而ti＝0，此时权值修正算法为：新的权值wij等于旧的权值wij减去输入矢量pj；类似的，新的偏差bi为旧偏差bi减去1。 感知器学习规则的实质为：权值的变化量等于正负输入矢量。 ３）分别计算感知机在ui作用下的输出yi　； 　　　　 　　　　t指第t次计算并调整权值 感知器的图形解释 由感知器的网络结构，我们可以看出感知器的基本功能是将输入矢量转化成0或1的输出。这一功能可以通过在输人矢量空间里的作图来加以解释。 以输入矢量r＝2为例，对于选定的权值w1、w2和b，可以在以p1和p2分别作为横、纵坐标的输入平面内画出W*P+b＝w1 p1十w2 p2十b＝0的轨迹，它是一条直线，此直线上的及其线以上部分的所有p1、p2值均使w1 p1十w2 p2十b＞0，这些点若通过由w1、w2和b构成的感知器则使其输出为1；该直线以下部分的点则使感知器的输出为0。 所以当采用感知器对不同的输入矢量进行期望输出为0或1的分类时，其问题可转化为：对于已知输入矢量在输入空间形成的不同点的位置，设计感知器的权值W和b，将由W*P+b＝0的直线放置在适当的位置上使输入矢量按期望输出值进行上下分类。 人工神经网络模型 感知机是最早被设计并被实现的人工神网络。感知器是一种非常特殊的神经网络，它在人工神经网络的发展历史上有着非常重要的地位，尽管它的能力非常有限，主要用于线性分类。 θ 或 感知机的结构 θ 1 特点： １）多输入，单输出 ２）激活函数／传递函数为二值，一般为阶跃函　　数或符号函数 ３）输出为二值：０／１或－１／１ ４） 1 　u0 -1 　u≤ 0 或 1 　u0 ０ 　u≤ 0 2 感知机的工作方式： 学习阶段——修改权值 （根据“已知的样本”对权值不断修改；） 工作阶段 ——计算单元变化，由响应函数给出新输入下的输出。 样本： p＝{p1， p2…… pp} Y＝{y1， y2…… yp} p Y W 学习机 W 学习算法 学习的过程，主要是修正权值Ｗ，阈值θ 感知机的学习阶段： 算法步骤： １）设输入变量为x1,x2…,xm；(j=1 ,2,…,m)，设置权系数初值wj(wj一般取[-1,1]之间的随机小数)； ２）确定学习样本，即给定输入／输出样本对， 输入：u={u1，u2……un}， ,(i=1,2,…,n) 输出：y={y1，y2……yn}, (i=1,2,…,n) 　　　　　　　　　 　　 感知器权值参数的设计目的，就是根据学习法则设计一条W*P+b＝0的轨迹，使其对输入矢量能够达到期望位置的划分。 输入矢量平面图 w的解并不唯一，能把两类分开即可 由于网络