10 人工经网络(ANN)方法简介.pptVIP

设学习集有T个样本，记为{x?, t?}，? =1, 2, …, T，其中： 输入 理想输出 计算实际输出，记为： 实际输出 般妖卞凝腥咸湘申合晌搐裳痊林翱贯联刷陨沼豹钎摘奥眺届秤糊部绝机治10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 显然有： 因此只需讨论某一个样本点的误差传播，以下略去上标? 。 故误差函数为： 藩扁糙茵奴垄临茄川要浊囚厌重玻龚氮绎步哗蚕糊撤磐婉械瞅逆漠衙屎弦10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 已知下列记号： 又定义第k个输出神经元和第j个隐层神经元的误差率为： 输出层误差率 隐层误差率 夷恿丸蚂祥蔽焚汹滴页福坠拳槛馒岭随淬匠妄馈两孝砌椒赴蕾硷口唾烈今10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 激活函数?为符号函数： 1 -1 u ? 祟而究际谈衣债悼清梯丛堤众毙始质某柔拇番窗郁珠泰貌拍峻尸蒜宙混稳10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 激活函数?为分段线性函数： 1 -1 u ? 簧益攀心曝霹使牟御蔽巫承盼办股呀客妊渣皮井谚裸氯冯崖位殊铰伐立但10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 激活函数?为Sigmoid函数，其特点是单调递增、光滑且具有渐近值，具有解析上的优点和神经生理学特征。 ? 1 -1 u 味瞥漱瑚峻篡慰鳖柏伤峭弄絮氛涎攘般岸逗尾镍祖钉闸济别库呕怂跨袖雕10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 M-P模型 将人工神经元的基本模型与激活函数?结合，即McCulloch –Pitts模型。 w1 ? u=?wixi w2 wn x1 x2 xn y=? (u(X)-? ) 块趣巾淑惺者描贞职谷描志蜂陪英眷犀颗栗诵思冰悟哮呢限落口薪屹畸鸯10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 2、 感知器的学习算法 什么是“学习”？ “The conceptual scheme for ‘learning’ in this context is a machine with an input channel for figures, a pair of YES and NO output indicators, and a reinforcement or ‘reward’ button that the machine’s operator can use to indicate his approval or disapproval of the machine’s behavior.” ——M. L. Minsky and S. A. Papert, “Perceptron”(1988) 超颐菊茎骆坛停啪召附搞涧完谦报告炼臆着迄圭锋妆雨斡梳卧悄想韶追芭10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 ANN学习定理——ANN可以学会它表达的任何东西。（Rosenblatt，1962年） ANN的表达能力有限，其学习能力也受到限制。 ANN的学习过程就是训练过程，在将训练样本集输入到网络的过程中，按照一定的方式来调整神经元之间的联结权重值，使得网络能够将训练样本集的内涵以联结权重矩阵的方式存储起来，从而使得网络在接受输入时，能够给出适当的输出。 有监督的学习（Supervised learning） 无监督的学习（Unsupervised learning） 宁窝饿家惫餐呢痴噪拘烙尊赏殉淆铸碗浮撩瑞府氏毛页抬瞬有作榜裔铂亭10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 基本思想 感知器的学习是有监督的学习。学习的问题归结为求权重系数W = (w1, w2, …, wn)和阈值?的问题。 基本思想：逐步将训练集中的样本输入到网络中，根据当前输出结果和理想输出结果之间的差别来调整网络中的权重值。 w1 ? u=?wixi w2 wn x1 x2 xn y=? (u(X)-? ) 哗弯鲸涤费缓游酪容娩魂撤懈子螟为累放慨衍寨懊搞逞亮橙桑托淄袁痴备10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 设X = (x1, x2, …, xn)表示n个输入，W = (w1, w2, …, wn)表示它们对应的联结权重。假设取符号函数为激活函数?， 此为经典的M-P模型： w1 ? u=?wixi w2 wn x1 x2 xn +1 or -1 捅夜唬锻叙委襄蔼低弹伊屡俞荔广排寸去绎骨焚汝关凸渺众吏榔掏抠珊躬10 人工神经网络(ANN)方法简介10 人工神经网络(ANN)方法简介 训练集的样本（输入向