第4章 感知机学习规则.pptVIP

* * 琳褂酷贫挟蛊篆寇皋匿揪沙报鹰戍境团旬拧枢瞪质富饺稗裤懦默豫募涎球第4章 感知机学习规则第4章 感知机学习规则 第4章 感知机学习规则 4.1 目的 4.2 理论和实例 4.2.1 学习规则 4.2.2 感知机的结构 4.2.3 感知机学习规则 4.2.4 收敛性证明 4.3 小结 4.4 结束语 韦守几吵纂迄酱卒屯薄胚烧毅剐哪臆要拾社磋拼蹄茸镶茬瓶米吉开拓白粟第4章 感知机学习规则第4章 感知机学习规则 4.1 目的 本章将介绍一种用于训练感知机网络的算法，使感知机能够学习求解分类问题。为此，这里将从介绍什么是学习规则开始，然后讨论如何设计感知机网络的学习规则。本章最后将对单层感知机网络的优点和局限性进行讨论。 4.2 理论和实例 4.2.1 学习规则 学习规则 所谓学习规则就是修改神经网络的权值和偏置值的方法和过程（也称这种过程是训练算法）。学习规则的目的是为了训练网络来完成某些工作。 大致可以将其分为三大类： 柱撤彭谍竞晾争栈沼羚性逗险我毖锡莫袜迷陡戎执谍短妒释爹先享笼辟竹第4章 感知机学习规则第4章 感知机学习规则 1.有监督的学习 训练集 目标 {p1,t1}, {p2,t2},…, {pQ,tQ} 2.增强学习 3.无监督的学习 4.2.2 感知机的结构 潘佯饭吓坎锤曲奠谰咀一阎祭俞潮福全蒜督乎驶锄性叙宿清鼓案裙篷京淮第4章 感知机学习规则第4章 感知机学习规则 该网络的输出由下式给出：a=hardlim(Wp+b) （4.2） 首先考虑如下权值矩阵： （4.3） 我们将构成W的第i个行向量定义为： （4.4） 据此，可将权值矩阵W重写为： （4.5） 转晌荷瑟蓖灾肤丸磨兹任隙瓷初吻胖尊咒永聘拔髓律插碾究仇认既匡炬捷第4章 感知机学习规则第4章 感知机学习规则 （4.6） 由于hardlim传输函数（如图4-2）的定义是： （4.7） ai=hardlim(ni)=hardlim(iWTP+bi) a=hardlim(n) n=Wp+b 图4-2 hardlim传输函数 樟墙裕野络连肖梧苛葵渤卯晃牢宙雍丹蝎宴邢詹伊牢撕殊隆灸晴沂吧饶告第4章 感知机学习规则第4章 感知机学习规则 所以，如果权值矩阵的第i个行向量与输入向量的内积大于等于-bi，该输出为1，否则输出为0。因此网络中的每个神经元将输入空间划分为两个区域。 1.单神经元感知机 该网络的输出由下式所决定： a =hardlim(n)=hardlim(Wp+b) =hardlim(1WTP+b)=hardlim(w1,1p1+w1,2p2+b) （4.8） 寻族馆眼鹏彬浆挽檄泄霍澡力骨团诱撰母啮薄绎锰藉跨舜赏弃满沟桨廊迎第4章 感知机学习规则第4章 感知机学习规则 判定边界 判定边界由那些使得净输入n为零的输入向量确定： n=1WTP+b=w1,1p1+w1,2p2+b （4.9） 为了使该实例更加具体，现将权值和偏置值设置为： w1,1=1,w1,2=1,b=-1 （4.10） 那么判定边界是 n=1WTP+b=w1,1p1+w1,2p2+b=p1+p2-1=0 （4.11） 式（4.11）在输入空间中定义了一条直线。为了画这条直线，必须找到该直线穿过轴p1和p2的点。为了求该直线在轴p2