人工神经网络_3第三章 NN的初始模型及基本算法.pptVIP

二、Madaline 网络 ①结构： 网络的输入： 希望输出： 权矩阵： m：输入模式对数 p：中间层单元数 1 1占多数时 Yout= -1 否则 二、Madaline 网络 ②学习算法：最小均方误差原则： 网络所有模式的误差平方和为 网络对第k个输入模式的误差为： k=1,2,…,m. 求Ek对wij的偏导数。 式中 二、Madaline 网络 根据梯度下降法： ０＜α＜1：学习率 网络的学习目的要使全部用于学习的输入模式的误差都达 到最小。 ---累积误差修正方法 二、Madaline 网络 在实际中Madaline的LMS学习往往是每提供一种学习模式都要进行修正。偏离了全局误差式上的真正梯度方向。但当学习率α较小时，这种偏离是可以忽略的。 企业策略 与远景 技术解决方案 企业作业流程 Madaline 的LMS学习规则： ①初始化：Wij赋予［－１，＋１］区间内的随机值。 ②任选一学习模式对提供给网络。 ③计算网络输出值 j=1,2,…,p ④计算希望输出yjk与实际输出sjk之间的误差 j=1,2,…,p ⑤求值修正 i=0,1,2,…,m j=1,2,…,p０＜α＜1 ⑥取下一个学习模式对提供给网络，重复③～⑤直到 足够小 ⑦计算最终输出 第三章 NN的初始模型与基本算法 3.1 感知机模型与感知机 学习规则 3.2 感知机的局限性 3.3 自适用线性神经网络 第三章 NN的初始模型与基本算法 3.1感知机模型与感知机学习规则 美国学者F.Rosenblatt 于1957年在M-P模型和Hebb学习规则基础上，提出具有自学习能力的感知机模型。 结构: 第三章 NN的初始模型与基本算法 输入0、1模式 S层至A层的连接权固定 A层至R层的连接权改变 A层R层的输出由M-P模型算法决定 一、单层感知机 单层感知机网络的一般拓扑结构 一、单层感知机 设网络输入模式向量为： 输出为： ， A层至R层的权向量为: 学习规则 1）初始化：A、R之间的W及输出单元的阈值θ赋予