人工神经网络(网络资料).docVIP

人工神经网络 基本特征 结构特征 并行处理（时间）、分布式存储（空间）与容错性 能力特征 自适应性（自学习和自组织） 基本功能 (1)联想记忆 自联想和异联想 (2)非线性映射 (3)分类与识别 (4)优化计算 (5)知识处理 3、神经元建模： 每个神经元都是一个多输入单输出的信息处理单元； 神经元输入分兴奋性输入和抑制性输入两种类型； 神经元具有空间整合性和阈值特性； 神经元输入与输出间有固定的时滞，主要取决于突触延搁； 忽略时间整合作用和不应期； 神经元本身是非时变的，即其突触时延和突触强度均为常数。 4、人工神经元模型 令表示t时刻神经元j接收的来自神经元i的输入信息，表示t时刻神经元j的输出信息，则神经元j的状态可表达为： 其中，为输入输出间的突触时延，为神经元j的阈值，为神经元i到j的突触连接系数或称权重值，为神经元转移函数。取，则有： 输入总和常称为神经元在t时刻的净输入，用下式表示： 体现了神经元j的空间整合性，而未考虑时间整合，当时，神经元才能被激活。上式还可表示为权重向量和输入向量的点积： 其中和均为列向量，定义为： 如果令，，则有，因此净输入与阈值之差可表达为： 综合以上各式，神经元模型可简化为： 5、神经元的转移函数 (1)阈值型转移函数(M-P模型) 处理离散信号 单极性阈值型转移函数 单位阶跃函数 双极性阈值型转移函数 sgn(x) (2)非线性转移函数（单极性/双极性Sigmoid函数曲线） 实数域R到[0,1]闭集的非减性连续函数，代表了状态连续型神经元模型。 (3)分段线性转移函数（伪线性函数） (4)概率型转移函数 6、人工神经网络模型 人工神经网络中的神经元常称为节点或处理单元，每个节点均具有相同的结构其动作在时间和空间上均同步。人工神经网络模型分类方法：按网络连接的拓扑结构和按网络内部的信息流向分类。 神经元之间的连接方式不同，网络的拓扑结构也不同。根据神经元之间的连接方式，可将神经网络结构分为： 层次型结构 a.单纯型层次网络结构 b.输出层到输入层有连接的层次网络结构 c.层内有互连的层次网络结构 互连型结构 a.全互连型 b.局部互连型 c.稀疏连接型 网络中的节点只与少数相距较远的节点相连。 根据网络内部的信息流向，可将神经网络结构分为： (1)前馈型网络 单层前馈型网络的结构特点与单纯型层次网络结构完全相同。从信息处理能力来看，网络中的节点可分为两种：一种是输入节点，只负责从外界引入信息后向前传递给第一隐层；另一种是具有处理能力的节点，包括各隐层和输出层节点。前馈网络中除输出层外，任一层的输出是下一层的输入，信息的处理具有逐层传递进行的方向性，一般不存在反馈环路。因此，这类网络很容易串联起来建立多层前馈网络。 多层前馈网络可用一个有向无环路的图表示，如图1所示。其中输入层常记为网络的第一层，第一个隐层记为网络的第二层，其余类推。网络除输入节点外，有一层或多层的隐含层节点，同层节点间无任何连接。由于同层节点间无任何耦合，故每一层节点的输出只影响下一层节点，每个节点表示单个神经元，其对应的函数常为 Sigmoid 型函数，有时输出层节点取线性函数。 图1 前馈型网络 所以，当提到具有单层计算神经元的网络时，指的应该是一个两层前馈网络（输入层和输出层）；当提到具有单隐层的网络时，指的应该是一个三层前馈网络（输入层、隐层和输出层）。 (2)反馈型网络 单纯反馈型网络的结构特点与全互连型网络结构完全相同，称为反馈网络是指其信息流向的特点。在反馈网络中所有节点都居于信息处理功能，而且每个节点既可以从外界接收输入，同时又可以向外界输出。其中也包括神经元射出信号引回到本身输入构成的自环反馈。如图 2所示，它可以画成无向图，其中每个连接线都是双向的。 图2 反馈型网络 7、人工神经网络学习 人工神经网络的学习算法有很多，根据一种广泛采用的分类方法，可将人工神经网络的学习算法归纳为： (1)有导师学习 有导师学习也称为监督学习，这种学习模式采用的是纠错规则。在学习训练过程中需要不断给网络成对提供一个输入模式和一个期望网络正确输出的模式，称为“教师信号”。将神经网络的实际输出同期望输出进行比较，当网络的输出与期望的教师信号不符时，根据差错的方向和大小按一定的规则调整权值，以使下一步网络输出更接近期望结果。 (2)无导师学习 无导师学习也称为无监督学习，在学习过程中，需要不断地给网络提供动态输入信息，网络能根据特有的内部结构和学习规则，在输入信息流中发现任何可能存在的模式和规律，同时能根据王安利的功能和输入信息调整权值，这个过程称为网络的自组织，其结果是使网络能对属于同一类的模式进行自动分类。在这种学习模式中，网络的权值调整不取决于外来教师信号的影响，可以认为网络的学习评价标准隐含于网络的内