2人工神经网络基础知识.pptVIP

2 人工神经网络基础知识 ;(晶枝); 每个细胞体都有一个细胞核在进行着呼吸和新陈代谢等许多生化过程。 整个细胞的外部叫做细胞膜。从细胞体向外伸出许多树突和一条长的轴突，树突和轴突分别负责传入和传出兴奋或抑制信息到细胞体。 树突:较短，分支很多，是信息的输入端。 轴突:较长，是信息的输出端。 突触:是一个神经元与另一个神经元相联系的特殊结构部位，突触包括突触前（成分）、突触间隙和突触后（成分）三个部分。突触前（成分）是第一个神经元的轴突末梢部分。突触后（成分）是指第二个神经元的受体表面。突触前（成分）通过化学接触或者电接触，将信息传往突触后受体表面(第二神经元树突)，实现神经元的信息传输。;一个神经元的各树突和细胞体往往通过突触和大量的其他神经元相连接,从而靠突触把众多的神经元连成一个神经元网络。(即一神经元树突和其它神经元轴突一一对接，); 突触后电位的变化(其他神经元传来的信息),将对该神经元产生综合作用,即当这些突出后电位的总和超过某一阈值(threshold)时,该神经元便被激活,并产生脉冲,脉冲沿轴突向其他神经元传递,从而实现神经元之间信息的传递.;空间整合—在同一时刻产生的刺激所引起的膜电位变化，大致等于各单独刺激引起的膜电位变化的代数和。这种累加求和称空间整合。;　　由多个生物神经元以确定方式和拓扑结构相互连接，即形成生物神经网络．它是一种灵巧、复杂的生物信息处理系统。宏观上呈现千变万化的复杂的信息处理能力。;2.２人工神经元模型;　　目前人们提出的神经元模型已有很多，其中最早提出且影响最大的，是1943年心理学家McCulloch和数学家W．Pitts在分析总结神经元基本特性的基础上首先提出的M－P模型。该模型经过不断改进后，形成目前广泛应用的形式神经元模型。;上述约定是对生物神经元信息处理过程的简化和概括，它清晰地描述了生物神经元信息处理的特点，而且便于进行形式化表达。通过上述假定，人工神经元的结构模型如图所示。;人工神经元的数学模型描述： ;其它各单元对第j个单元的输入，通过加权，按某种运算把输入信号的综合作用整合起来，给出它们的总效果称净输入。净输入整合表达应有多种方式，人们探索到的人脑空间整合方式近似为线性求和。即单元净输入表为 ;至此，人工神经元数学模型可简化为;2.3人工神经元转移函数 ;具有这一作用方式的神经元称为阈值型神经元，这是神经元模型中最简单的一种，经典的M—P模型就属于此类。;（2）非线性转移函数;有时也采用双极性S型函数（双曲正切函数tanh(x)）,其变化范围是-1～1，如图所示。其表达式为;(3)分段线性转移函数 该函数的特点是神经元的输入与输出在一定区间内满足线性关系，如图 所示，用下式表达;（4）概率型转移函数 ;2.4人工神经网络模型 ;人们对网络模型做了大量研究,目前人工神经网络的模型很多，已有近百种，可以按照不同的方法进行分类。 按网络性能可分----连续性和离散性、确定性和随机性网络; 按学习方式可分----有导师和无导师 学习方式网络。 常见的分类方法----按网络连接的拓扑结构分类和按网络内部 的信息流向分类。 如按网络内部的信息流向分类:前馈(向)型网络和反馈型网络.;层次型结构 层次型结构的神经网络将神经元按功能分成若干层，如输入层、中间层（也称为隐层）和输出层，各层顺序相连，如图 所示。;层次型网络结构有3种典型的结构形式。 （1）单纯层次型网络结构;（2）层内有互连的层次型网络结构;（3）输出层到输入层有连接的层次型网络结构;互连型结构 对于互连型网络结构，网络中任意两个节点之间都可能存在连接路径，因此可以根据网络中节点的互连程度将互连型网络结构细分为全互连型网络、局部互连型网络、稀疏连接型网络3种情况。 （1）全互连型网络;（2）局部互连型网络 ;2.4.2网络信息流向类型 从神经网络内部信息传递方向来分，可分为两种类型：前馈型网络和反馈型网络。 2．4．2．1 前馈型网络 单纯前馈型网络的结构特点前述的分层网络完全相同，;前馈(向)网络特点: (1)层次关系清楚 每个神经元只与前一层神经元相连;隐层可多层. (2)反馈关系 基本前馈网络无反馈关系; 隐层自身互联,形成同层神经元之间横向抑制机制,大多自组织竞争型网络都采用此种; 输出到输入层有反馈.对复杂图形的顺序选择和识别字符需要此类网络; (3)属有导师学习型网络(输出值-教师信号-误差-实现权值自适应) (4)属于非线性映射网络;当提到具有单层计算神经元的网络时，指的应是一个两层前馈网络（输入层和输出层），当提到