第2章_人工神经网络及其应用.ppt

第2章 人工神经网络及其应用 神经网络（neural networks，NN） 第2章 人工神经网络及其应用 2.1 神经元与神经网络 2.2 BP神经网络及其学习算法 2.3 BP神经网络的应用 2.4 Hopfield神经网络及其改进 2.5 Hopfield神经网络的应用 2.6 Hopfield神经网络优化方法求解JSP 第2章 人工神经网络及其应用 2.1 神经元与神经网络 2.2 BP神经网络及其学习算法 2.3 BP神经网络的应用 2.4 Hopfield神经网络及其改进 2.5 Hopfield神经网络的应用 2.6 Hopfield神经网络优化方法求解JSP 2.1 神经元与神经网络 2.1.1 生物神经元的结构 2.1.2 神经元数学模型 2.1.3 神经网络结构与工作方式 2.1.1 生物神经元的结构 2.1.1 生物神经元的结构 2.1.1 生物神经元的结构 神经元具有两种常规工作状态：兴奋与抑制状态，即满足0-1律。 当传入的神经冲动使细胞膜电位升高阈值时，细胞进入兴奋状态，产生神经冲动并由轴突输出；当传入的冲动使膜电位下降低于阈值时，细胞进入抑制状态，没有神经冲动输出。 2.1.2 神经元数学模型 1943年，麦克洛奇和皮兹提出M－P模型。一般模型： 加权求和、线性动态系统和非线性函数映射三部分。 2.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 常用有：阶跃函数、S型函数 2.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 最常用的S型函数为 Sigmoid函数。它具有平滑和渐近性，并保持单调性，是最常用的非线性函数。 2.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 2.1.2 神经元数学模型 非线性激励函数（传输函数、输出变换函数） 2.1.2 神经元数学模型 2.1 神经元与神经网络 8.1.1 生物神经元的结构 8.1.2 神经元的数学模型 8.1.3 神经网络的结构与工作方式 2.1.3 神经网络的结构与工作方式 决定人工神经网络性能的三大要素： 2.1.3 神经网络的结构与工作方式 1. 神经网络的结构：根据神经元的连接方式 （1）前馈型（ 前向型）如：BP神经网络 2.1.3 神经网络的结构与工作方式 在前馈型神经网络中，各神经元接受前一层的输出作为输入，并输出给下一层。没有反馈。前馈网络可分不同的层；输入与输出的神经元与外界相连。 在反馈型神经网络中，一些神经元的输出经过若干个神经元后，再反馈到这些神经元的输入端。是全互连神经网络，即每个神经元和其他神经元都相连。 2.1.3 神经网络的结构与工作方式 1. 神经网络的结构 （2）反馈型 2.1.3 神经网络的结构与工作方式 2. 神经网络的工作方式 2.1.4 神经网络的学习 神经网络方法是一种知识表示方法和推理方法。 神经网络知识表示是一种隐式的表示方法。将某一问题的若干知识通过学习表示在同一网络中。 谓词、产生式、框架、语义网络等方法是知识的显式表示。如产生式系统中知识独立地表示主每一条规则。 神经网络的学习是指调整神经网络的连接权值或者结构，使输入输出具有需要的特性。 2.1.4 神经网络的发展概况 2.1.4 神经网络的发展概况 2.1.4 神经网络的发展概况 2.1.4 神经网络的发展概况 2.1.4 神经网络的发展概况 第2章 人工神经网络及其应用 2.1 神经元与神经网络 2.2 BP神经网络及其学习算法 2.3 BP神经网络的应用 2.4 Hopfield神经网络及其改进 2.5 Hopfield神经网络的应用 2.6 Hopfield神经网络优化方法求解JSP 2.2 BP神经网络及其学习算法 8.2.1 BP神经网络 （back-propagation neural network）的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 2.2 BP神经网络及其学习算法 8.2.1 BP神经网络（back-propagation neural network）的结构 8.2.2 BP学习算法 8.2.3 BP算法的实现 2.2 BP神经网络及其学习算法 BP神经网络（back-propagation neural network）就是多层前向网络。 设BP神经网络具有m层。第一层称为输入层，最后一层称为输出层，中间各层称为隐层。输入层起缓冲存储器的作用，把数据源加到网络上，因此，输入层的神经元的输入输出关系一般是线性函数。隐层中各个神经