神经网络导论第一章精品课件.pptVIP

第一章

神经网络基本概念版权所有，1998(c)InstituteofComputerScience.

内容提要神经网络模型的基本组成神经网络的分类及典型的神经网络模型神经网络结构及神经计算特点神经计算的稳定性神经网络研究历史神经网络的应用领域

第一节

神经网络模型的基本组成

神经网络模型的基本组成之神经元生物神经元的基本组成细胞体突起树突轴突人工神经元的基本结构处理单元连接输入输出

神经元的基本功能（1）接收输入输入类型输入的权值抑制性连接权值活跃性连接权值传播规则（传播函数）把某类净输入与其连接权值结合起来，使该类输入对目的处理单元产生最终净输入的规则。

神经元的基本功能（2）处理输入活跃状态（活跃值）活跃值活跃函数（活跃规则）把某一处理单元的各类净输入相互结合起来，再与该处理单元当前活跃状态相结合，以产生一个新的活跃状态的规则。活跃函数类型恒等函数、阈值函数、S型单调函数

神经网络模型的基本组成之学习规则学习规则根据环境动态修改各个处理单元之间连接权值的规则。典型的学习规则Hebbian学习规则Delta学习规则学习的类型联想学习自联想异联想规则发现如果一个处理单元接收从另外一个处理单元来的输入，那么当两个单元都活跃时，它们之间的连接权值就应该增大。权值主要根据在给定教师输入下，期望输出与目标输出之差来进行改变。输入输入输出

神经网络模型的基本组成之环境环境内容输入输出

神经网络模型的基本组成小结传播规则活跃规则输出规则互连模式学习规则环境神经网络模型完整描述的六个要素。

第二节

神经网络的分类以及

典型的神经网络模型

神经网络分类原则按神经网络模型的拓扑结构可以分为反馈神经网络模型和前向神经网络模型。按神经网络模型的性能可分为连续型与离散型神经网络模型，确定型与随机型神经网络模型。按学习方式可以分为有教师学习神经网模型和无教师学习神经网络模型。按连接突触性质可以分为一阶线性关联神经网络模型和高阶非线性关联神经网络模型。

典型的神经网络模型自适应谐振理论（ART）该模型主要包括ART1、ART2和ART3，它们可以对任意多和任意复杂的二维模式进行自组织、自稳定和大规模并行处理。ART1主要用于二值输入，ART2和ART3主要用于连续信号输入。该类模型主要用于模式识别（如雷达、声纳的信号识别）。缺点是对转换、失真及规模的变化较为敏感。

典型的神经网络模型雪崩模型（Avalanche）该类神经网络模型可以学习、记忆和重现随机复杂度的时空模式。主要用于连续的语音识别和教学机器人。缺点是调节困难。

典型的神经网络模型双向相联存储器（BAM）该类神经网络模型是由许多相同神经元构成的双向联想式两层网络，主要用作按内容寻址的相联存储。缺点是存储容量小而且需很好地进行编码。

典型的神经网络模型反传神经网络模型（BP）该类神经网络模型是一多层映射神经网络。采用的是最小均方差的学习方式，是目前使用最广泛的神经网络模型之一。主要用于语言综合、语言识别、自适应控制等。缺点是它仅仅是有监督的一种学习方式，而且输入、输出样本都必须是冗余的。

典型的神经网络模型Boltzmann机／Cauchy机（BCM）该类神经网络模型使用一噪声过程求得整个模型花费函数（costfunction）的全局极小值。主要用于模式识别（图像、声纳和雷达信号的识别）。缺点是Boltzmann机的训练时间长，Cauchy机会按一定的统计分布产生噪声。

典型的神经网络模型盒中脑状态模型（BSB）该类神经网络模型是具有最小均方差的单层自联想网络模型。可以用于从数据库中提取知识。缺点是仅仅为单步决策，没有交互性的推理。

典型的神经网络模型对流传播模型（CPN）该类神经网络模型是一种在功能上作为统计最优化和概率密度函数分析的网络模型。主要用于图像压缩、统计分析、贷款应用打分。缺点是对任何类型的问题均需大量的处理单元和连接。

典型的神经网络模型Hopfield神经网络模型它是由相同处理单元构成的单层自联想网络模型。主要用于从片段中进行图像和数据的完全恢复。缺点是处理单元间连接权值需预先设置，并且单元之间的连接是要对称的，它没有学习能力。

典型的神经网络模型多个自适应线性元模型（MADALINE）该类神经网络模型是具有最小方