2012神经网络指导.docVIP

第三部分 神经网络控制技术 一 感知机 1) 感知机概念 感知机是最早被设计并被实现的人工神网络。感知器是一种非常特殊的神经网络，它在人工神经网络的发展历史上有着非常重要的地位，尽管它的能力非常有限，主要用于线性分类。 图1 单神经元结构模型 概念： （P125）x1…xn为输入信号； w1...wn表示连接权系数，即权值，连接权； y为输出； θ为阈值（阀值）； 模型可描述为： 响应函数为：或 f(?)也称为变换函数，活化函数(activation function)，激发函数。 2）感知器的工作方式： 学习阶段——修改权值（例：根据“已知的样本”对权值不断修改；――有导师学习） 工作阶段 ——计算单元变化，由响应函数给出新输入下的输出。 感知机的学习算法 样本：X＝{X1， X2…… Xp} Y＝{y1， y2…… yp} 学习的过程，主要根据“样本”来修正权值Ｗ，阈值θ 3）响应函数（激活函数） 响应函数（激活函数）的基本作用： （1）.控制输入对输出的激活作用； （2）.对输入、输出进行函数转换； （3）.将可能无限域的输入变换成指定的有限范围内的输出。 1).阈值单元 单层感知器： 两个输入 x1 和 x2 。 一个阈值（阀值） θ 两个待调整的权值W1和W2 决策函数为 样本集分别属于2类。 4）工作阶段理解的例题 x1为考试成绩、x2为平时成绩，将x1、x2作为两个输入，构建两输入、单输出的感知机实现成绩评定系统其权值w1=0.7、w2=0.3，阈值θ=60。求下列成绩的评定结果。 X1 70 30 60 80 x2 50 90 59 40 解： x1 70 30 60 80 x2 50 90 59 40 Net（） 70*0.7+50*0.3-60 =70 30*0.7+90*0.3-60 =-120 60*0.7+59*0.3-60 =-0.30 80*0.7+40*0.3-60 =80 y 1 0 0 1 练习 2设一平面上有两类点，使用横坐标x1和纵坐标x2作为两个输入，构建两输入、单输出的感知机。若权值w1=-40、w2=22，阈值θ=6000，求下列样本的识别结果。 x1 70 30 60 80 x2 50 90 59 40 感知器的建立： 学习阶段——修改权值（例：根据“已知的样本”对权值不断修改；――有导师学习） 工作阶段 ——计算单元变化，由响应函数给出新输入下的输出。 举例：用感知器实现“与”的功能 解：设x1,x2为两输入，取值为逻辑0或1 y为输出，即x1,x2与运算后的结果。 用感知器实现“与”的功能，即用此设计好的感知器可以相当于“与门”完成与运算。 也就是确定此感知器中的3个参数“w1,w2,θ”。 举例：用感知器实现“与”的功能 1）设w1=0;w2=0; θ=0; 2 ) 输入x={x1,x2} 输出y 样本：x1=0011 x2=0101 y=0001 即， 时 y1=0, y2=0, y3=0, y4=1; ３）计算感知机在ui作用下的输出yi　 由模型可描述为： j=1,2 n=2 i=1,2,3,4, 用矩阵表示为 s1=(w1,w2)×u1－θ=（0，0）× －0＝0； s2=(w1,w2)×u2－θ=（0，0）× －0＝0； s3=(w1,w2)×u3－θ=（0，0）× －0＝0； s4=(w1,w2)×u4－θ=（0，0）× －0＝0； 由响应函数 Y=[1 1 1 1], 即y1=y2=y3=y4=1; ４）调整权值和阈值 由ei(t)=(di-yi(t)) e(t)=(-1,-1,-1,0) 求E(t)＝=-3 ,设η＝0.5 w1(t+1)=w1(t)+η∑(di-yi(t))×x1’) =0+0.5×(-1,-1,-1,0)×(0,0,1,1)’=-0.5; w2(t+1)=w2(t)+η∑(di-yi(t))×x2’) =0+0.5×(-1,-1,-1,0)×(0,1,0,1)’=-0.5; θ(t+1)= θ(t)+(| E(t)|)1/2=0+1.732=1.732; 由此w1=-0.5,w2=-0.5, θ=1.732; 返回3）重新计算，直到E满足要求。 %建立一个感知机网络，使其能够完成“与”的功能 %感知机神经网络学习阶段 %自编程，没用mat工具箱 err_goal=0.001;lr=0.9; max_expoc