模式识别理论及应用 人工神经网络ppt课件.pptVIP

第八章 神经网络 XOR问题 任何一个逻辑电路都可以只用XOR门来实现， XOR是通用门 (universal logic gate) 感知器不能解决XOR问题 两层感知器可以解决XOR问题 前馈网络 第八章 神经网络 反向传播(BP)算法 多层感知器的中间隐层不直接与外界连接，其误差无法估计 反向传播算法：从后向前（反向）逐层“传播”输出层的误差，以间接算出隐层误差。分两个阶段： 正向过程：从输入层经隐层逐层正向计算各单元的输出 反向过程：由输出层误差逐层反向计算隐层各单元的误差，并用此误差修正前层的权值 前馈网络 第八章 神经网络 正向过程 正向过程: 前馈网络 第八章 神经网络 梯度下降(gradient decent)法 前馈网络 准则函数: sum squared error, SSE 权值修正: 梯度下降法 第八章 神经网络 Case 1: 输出层权值修正 前馈网络 对于sigmoid函数: 局部梯度 扩展delta学习规则 第八章 神经网络 Case 2:隐层权值修正 前馈网络 后层的全部单元都受nj的影响 i wji nj aj ni δj wji δi 第八章 神经网络 BP算法的步骤 初始值选择 前向计算，求出所有神经元的输出 对输出层计算δ 从后向前计算各隐层δ 计算并保存各权值修正量： 修正权值： 判断是否收敛，如果收敛则结束，不收敛则转至Step 2 前馈网络 * 美国自发性脑出血处理指南课件慢性鼻炎吃什么药好慢性鼻窦炎吃什中医中药治疗高血脂饮食保健资料子宫肌瘤合并胆囊炎围手术期护理中医药对冠心病稳定性心绞痛长期治疗价值 慢性单纯性苔藓痤疮白癜风教材课程 武汉大学电子信息学院 第八章 人工神经网络 模式识别理论及应用Pattern Recognition - Methods and Application 内容目录 第八章 人工神经网络 8.1 引言 3 2 4 5 8.2 人工神经元模型 8.3 神经网络学习方法 8.4 前馈神经网络及其主要方法 8.5 神经网络模式识别典型方法 1 8.6 Matlab神经网络工具箱介绍及应用 6 模式识别与神经网络 第八章 神经网络 8.1 引言 生物神经网络(biological neural network, BNN)，特别是人脑的模拟。 人工神经网络(artificial neural network, ANN)：由大量神经元经广泛互联组成的非线性网络（功能模块，数学模型） 自底向上的综合方法：基本单元→功能模块→系统 第八章 神经网络 神经元 第八章 神经网络 神经网络 第八章 神经网络 神经网络发展历史简介 M-P神经元模型 (McCulloch Pitts 1943) Hebb神经元学习准则 (Hebb, 1949) 感知机Perceptron (Rosenblatt 1958)Adaline(Widrow and Hoff) 《Perceptron》 (Minsky Papert, 1969) Hopfield模型 (Hopfield，1982) 多层感知机MLP与反向传播算法BP (Rumelhart, 1986) 引言 第八章 神经网络 神经网络的特点 自学习 自适应 并行处理 分布表达与计算 引言 第八章 神经网络 神经网络的应用 NN本质上可以理解为函数逼近，可以应用到众多领域： 优化计算 信号处理 智能控制 模式识别 机器视觉等 引言 第八章 神经网络 神经网络的应用 AerospaceHigh performance aircraft autopilots, flight path simulations, aircraft control systems, autopilot enhancements, aircraft component simulations AutomotiveAutomobile automatic guidance systems, warranty activity analyzers BankingCheck and other document readers, credit application evaluators 引言 第八章 神经网络 神经网络的应用 DefenseTarget tracking, object discrimination, facial recognition, new kinds of sensors, sonar, radar and image signal processing ElectronicsCode sequence prediction, integrated circuit chip lay