神经网络基本原理.ppt

*感知器模型及其学习（自学习模型） 感知器模型

感知器是一种具有分层结构的前向网络模型，它可分为单层、两层及多层结构。 感知器中的神经网络是线性阈值单元。当输入信息的加权和大于或等于阈值时，输出为1，否则输出为0或一1。神经元之间的连接权ωi是可变的，这种可变性就保证了感知器具有学习的能力。第55页，共81页，星期日，2025年，2月5日* 单层感知器是一个由输入部分和输出层构成，但只有输出层可作为计算层的网络。在单层感知器中，输入部分(也称为感知层)和输出层都可由多个神经元组成，输入部分将输入模式传送给连接的输出单元；输出层对所有输入数据进行加权求和，经阈值型作用函数产生一组输出模式。第56页，共81页，星期日，2025年，2月5日*单层感知器的两层神经元之间采用全互连方式，即输入部分各单元与输出层各单元之间均有连接。单层感知器模型y1x2xnynx1…………输出层输入部分权可调第57页，共81页，星期日，2025年，2月5日* （2）分段线性强饱和型（LinearSaturation）这种模型又称为伪线性，其输入／输出之间在一定范围内满足线性关系，一直延续到输出为最大值1为止。但当达到最大值后，输出就不再增大。如图5-4所示。图5-4分段线性饱和型神经元的输入／输出特性f(σ)σ01第23页，共81页，星期日，2025年，2月5日* （3）S型（Sigmoid）

这是一种连续的神经元模型，其输出函数也是一个有最大输出值的非线性函数，其输出值是在某个范围内连续取值的，输入输出特性常用S型函数表示。它反映的是神经元的饱和特性，如图5-5所示。σf(σ)图5-5S型神经元的输入／输出特性10第24页，共81页，星期日，2025年，2月5日* （4）子阈累积型（SubthresholdSummation）

这种类型的作用函数也是一个非线性函数，当产生的激活值超过T值时，该神经元被激活产生一个反响。在线性范围内，系统的反响是线性的，如图5－6所示。σf(σ)T01图5-6子阈累积型神经元的输入／输出特性第25页，共81页，星期日，2025年，2月5日* 从生理学角度看，阶跃函数（阈值型）最符合人脑神经元的特点，事实上，人脑神经元正是通过电位的高低两种状态来反映该神经元的兴奋与抑制。然而，由于阶跃函数不可微，因此，实际上更多使用的是与之相仿的Sigmoid函数。第26页，共81页，星期日，2025年，2月5日*人工神经网络

人工神经网络是对人类神经系统的一种模拟。尽管人类神经系统规模宏大、结构复杂、功能神奇，但其最基本的处理单元却只有神经元。人工神经系统的功能实际上是通过大量神经元的广泛互连，以规模宏伟的并行运算来实现的。

基于对人类生物系统的这一认识，人们也试图通过对人工神经元的广泛互连来模拟生物神经系统的结构和功能。第27页，共81页，星期日，2025年，2月5日*人工神经网络

人工神经元之间通过互连形成的网络称为人工神经网络。在人工神经网络中，神经元之间互连的方式称为连接模式或连接模型。它不仅决定了神经元网络的互连结构，同时也决定了神经网络的信号处理方式。第28页，共81页，星期日，2025年，2月5日*人工神经网络的分类

目前，已有的人工神经网络模型至少有几十种，其分类方法也有多种。例如: 1)按网络拓扑结构可分为层次型结构和互连型结构2)按信息流向可分为前馈型网络与有反馈型网络； 3)按网络的学习方法可分为有教师的学习网络和无教师的学习网络； 4)按网络的性能可分为连续型网络与离散型网络，或分为确定性网络与随机型网络；第29页，共81页，星期日，2025年，2月5日*神经元的模型确定之后，一个神经网络的特性及能力主要取决于网络的拓扑结构及学习方法第30页，共81页，星期日，2025年，2月5日*人工神经网络的互连结构及其学习机理人工神经网络的拓扑结构

建立人工神经网络的一个重要步骤是构造人工神经网络的拓扑结构，即确定人工神经元之间的互连结构。根据神经元之间连接的拓扑结构，可将神经网络的互连结构分为层次型网络和互连型网络两大类。层次型网络结构又可根据层数的多少分为单层、两层及多层网络结构。第31页，共81页，星期日，2025年，2月5日*人工神经网络的互连结构及其学习机理简单单级网……x1x2…