模式识别 第8章 人工神经网络.pptVIP

模式识别与神经网络Pattern Recognition and Neural Network 第八章 人工神经网络 内容目录 8.1 引言 生物神经网络(biological neural network, BNN)，特别是人脑的模拟， 人工神经网络(artificial neural network, ANN)：由大量神经元经广泛互联组成的非线性网络（功能模块，数学模型） 自底向上的综合方法：基本单元→功能模块→系统 神经网络发展历史简介 M-P神经元模型 (McCulloch Pitts 1943) Hebb神经元学习准则 (Hebb, 1949) 感知机Perceptron (Rosenblatt 1958)Adaline(Widrow and Hoff) 《Perceptron》 (Minsky Papert, 1969) Hopfield模型 (Hopfield，1982) 多层感知机MLP与反向传播算法BP (Rumelhart, 1986) 神经网络的特点 自学习 自适应 并行处理 分布表达与计算 神经网络的应用 NN本质上可以理解为函数逼近，可以应用到众多领域： 优化计算 信号处理 智能控制 模式识别 机器视觉等 神经网络的应用 AerospaceHigh performance aircraft autopilots, flight path simulations, aircraft control systems, autopilot enhancements, aircraft component simulations AutomotiveAutomobile automatic guidance systems, warranty activity analyzers BankingCheck and other document readers, credit application evaluators 神经网络的应用 DefenseTarget tracking, object discrimination, facial recognition, new kinds of sensors, sonar, radar and image signal processing ElectronicsCode sequence prediction, integrated circuit chip layout, chip failure analysis, machine vision, voice synthesis RoboticsTrajectory control, manipulator controllers, vision systems SpeechSpeech recognition, speech compression, speech synthesis 神经网络的应用 SecuritiesMarket analysis, stock trading advisory systems TelecommunicationsImage and data compression, automated information services, real-time translation of spoken language TransportationTruck brake diagnosis systems, vehicle scheduling, routing systems 8.2 神经元 生物神经网络：Biological Neural Network（BNN） 神经元： neuron 神经元经突触传递信号给其他神经元（胞体或树突） 1011个神经元/人脑 104个连接/神经元 神经元基本工作机制： 状态：兴奋与抑制 互联，激励，处理，阈值 神经元模型 常用神经元模型（Neuron Model)： 多输入，单输出，带偏置 R个输入pi∈R，即R维输入矢量p n: net input, n=Wp+b。 R个权值wi∈R，即R维权矢量w 阈值b 输出a=f(n), f: transfer function 常用输出函数 阈值函数： 线性输出函数 Sigmoid函数 8.3 神经网络的学习方法 神经网络的学习：从环境中获取知识并改进自身性能，主要指调节网络参数使网络达到某种度量，又称为网络的训练 学习方式： 监督学习 非监督学习 再励学习 学习规则(learning rule)： 误差纠正学习算法 Hebb学习算法 竞争学习算法 监督学习 对训练样本集中的每一组输入能提供一组目标输出 网络根据目标输出与实际输出的误差信号来调节网络参数 非监