人工神经网络算法(基础精讲).ppt

人工神经网络;目 录;一、人工神经网络的 基本概念;一、人工神经网络的 基本概念;1.1人工神经网络发展简史;1.1人工神经网络发展简史;1.2生物神经元结构;1.2生物神经元结构;1.3生物神经元的信息处理机理;;1.5人工神经元模型; 上面的神经元模型可以用一个数学表达式进行抽象与概括，从而得到神经元的数学模型： ; 有时为了方便起见，常把-?也看成是恒等于1的输入X0 的权值，这时上面的数学模型可以写成： ;神经元的模型具有以下特点： ①神经元是一个多输入、单输出单元。 ②???具有非线性的输入、输出特性。 ③它具有可塑性，反应在新突触的产生和现有的神经突触的调整上，其塑性变化的部分主要是权值w的变化，这相当于生物神经元的突出部分的变化，对于激发状态，w取正直，对于抑制状态，w取负值。 ④神经元的输出和响应是个输入值的综合作用的结果。 ⑤兴奋和抑制状态，当细胞膜电位升高超过阈值时，细胞进入兴奋状态，产生神经冲动；当膜电位低于阈值时，细胞进入抑制状态。;1.6激活函数;1.阈值型激活函数 阈值型激活函数是最简单的，前面提到的M-P模型就属于这一类。其输出状态取二值（1、0或+1、-1），分别代表神经元的兴奋和抑制。; ;1.6激活函数;3.分段线性激活函数 分段线性激活函数的定义为：;4.概率型激活函数 概率型激活函数的神经元模型输入和输出的关系是不确定的，需要一种随机函数来描述输出状态为1或为0的概率，设神经元输出（状态）为1的概率为：;激活函数的基本作用表现在: ; 神经网络是由许多神经元互相在一起所组成的神经结构。把神经元之间相互作用关系进行数学模型化就可以得到人工神经网络模型。 神经元和神经网络的关系是元素与整体的关系。 人工神经网络中的神经元常称为节点或处理单元，每个节点均具有相同的结构，其动作在时间和空间上均同步。;人工神经网络的基本属性;神经网络模型 神经元的连接方式不同，网络的拓扑结构也不同，人工神经网络的拓扑结构是决定人工神经网络特征的第二要素，根据神经元之间连接的拓扑结构不同，可将人工神经网络分成两类，即分层网络和相互连接型网络。;分层网络 分层网络将一个神经网络中的所有神经元按功能分为若干层，一般有输入层、中间层（隐藏层）和输出层。 分层网络按照信息的传递方向可分为前向式网络（如图a）和反馈网络（如图b、c）。;相互连接型网络 相互连接型网络是指网络中任意单元之间都是可以相互双向连接的。;二、人工神经网络的 学习方法;2.1学习机理;2.2学习方法;2.2学习方法;2.2学习方法;2.3学习规则;2.3学习规则;2.3学习规则;2.3学习规则;2.3学习规则;2.3学习规则;2.3学习规则;三、前向式神经网络与算法;3.1感知器及算法;3.1感知器及算法;3.1感知器及算法;3.1感知器及算法;3.1感知器及算法;3.1感知器及算法;3.1感知器及算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;3.2 BP神经网络算法;四、BP神经网络的应用举例 ( matlab实现) ;四、神经网络的应用( matlab实现) ;四、神经网络的应用( matlab实现) ;四、神经网络的应用( matlab实现) ;四、神经网络的应用( matlab实现) ;四、神经网络的应用( matlab实现) ;四、神经网络的应用( matlab实现) ;四、神经网络的应用( matlab实现) ;四、神经网络的应用( matlab实现) ;