湘潭大学 人工智能课件 神经网络系统.pptVIP

单层感知器的结构如下图 … x1 x2 xn … y1 ym 输入层 输出层 权值 wij 输入向量为X=(x1,x2,…,xn)； 输出向量为Y=(y1,y2,…,ym)； 输入层各个输入到相应神经元的连接权值分别是wij，i=1,2,..,n，j=1,2,.., m。 若假设各神经元的阈值分别是θj，j=1,2,…,m，则各神经元的输出yj, j=1,2,..,m分别为 其中，由所有连接权值wji构成的连接权值矩阵W为： 在实际应用中，该矩阵是通过大量的训练示例学习而形成的 感知器模型 单层 感知器(2/7) 使用感知器的主要目的是为了对外部输入进行分类。 罗森勃拉特已经证明，如果外部输入是线性可分的（指存在一个超平面可以将它们分开），则单层感知器一定能够把它划分为两类。其判别超平面由如下判别式确定： 感知器模型 单层感知器(3/7) 作为例子，下面讨论用单个感知器实现逻辑运算的问题。事实上，单层感知器可以很好地实现“与”、“或”、“非”运算，但却不能解决“异或”问题。 例：　“与”运算（x1∧x2） (0,0) (1,1) (0,1) (1,0) 与运算问题图示 输入 输出 超平面 阈值条件 x1 x2 x1∧x2 w1*x1+ w2* x2-θ=0 0 0 0 w1*0+ w2*0 -θ＜0 θ＞0 0 1 0 w1*0+ w2*1 -θ＜0 θ＞w2 1 0 0 w1*1+ w2*0 -θ＜0 θ＞w1 1 1 1 w1*1+ w2*1-θ≥0 θ≤w1+ w2 可以证明此表有解，例如取w1=1，w2=1，θ=1.5，其分类结果如右图所示。 其中，输出为1的用实心圆，输出为0的用空心圆。后面约定相同。 感知器模型 单层感知器(4/7) * 例：“或”运算（x1∨x2） 输入 输出 超平面 阈值条件 x1 x2 x1∨x2 w1*x1+ w2* x2-θ=0 0 0 0 w1*0+ w2*0 -θ＜0 θ＞0 0 1 1 w1*0+ w2*1 -θ≥0 θ≤w2 1 0 1 w1*1+ w2*0 -θ≥0 θ≤w1 1 1 1 w1*1+ w2*1-θ≥0 θ≤w1+ w2 此表也有解，例如取w1=1，w2=1，θ=0.5，其分类结果如右图所示。 (0,1) (0,0) (1,0) 或运算问题图示 (1,1) 感知器模型 单层感知器(5/7) 例： “非”运算（?x1） 输入 输出 超平面 阈值条件 x1 ?x1 w1*x1-θ=0 0 1 w1*0 -θ ≥ 0 θ≤0 1 0 w1*1 –θ0 θ w1 此表也有解，例如取w1=-1，θ=-0.5，其分类结果如右图所示。 非运算问题图示 0 1 感知器模型 单层感知器(6/7) * 例4.4 “异或”运算（x1 XOR x2） 输入 输出 超平面 阈值条件 x1 x2 x1 XOR x2 w1*x1+ w2* x2-θ=0 0 0 0 w1*0+ w2*0 -θ＜0 θ＞0 0 1 1 w1*0+ w2*1 -θ≥0 θ≤w2 1 0 1 w1*1+ w2*0 -θ≥0 θ≤w1 1 1 0 w1*1+ w2*1-θ0 θw1+ w2 此表无解，即无法找到满足条件的w1、w2和θ，如右图所示。因为异或问题是一个非线性可分问题，需要用多层感知器来解决。 (0,1) (0,0) (1,0) 异或运算问题图示 (1,1) 感知器模型 单层感知器(7/7) 使用感知器的主要目的是为了对外部输入进行分类。 单层感知器可以很好地实现“与”、“或”、“非”运算，但却不能解决“异或”问题。 单层感知器的输出层的每个神经元都只有一个输出，且该输出仅与本神经元的输入及联接权值有关，而与其他神经元无关。 感知器模型 多层感知器 是通过在单层感知器的输入、输出层之间加入一层或多层处理单元所构成的。 与多层前馈网络相似，差别在于其计算节点的连接权值是可变的。 拓扑结构： 输入与输出 高度非线性的映射关系 感知器模型 多层感知器 误差反向传播(Error Back Propagation)网络 简称为BP网络，是由美国加州大学的鲁梅尔哈特和麦克莱兰于1985年提出的一种网络模型。 y1 y2 ym x1 x2 xn 输出层 隐含层 输入层 权可调 权可调 … … … 一个多层BP网络的结构 BP网络模型 模型结构 在BP网络中，同层节点之间不存在相互连接，层与层之间多采用全互连方式，且各层的连接权值可调。BP网络