神经网络课件.pptVIP

神经网络模型 演示：杨宏一 同组：张 勤 内容提要 神经网络模型的基本组成 神经网络的分类及典型的神经网络模型 神经网络结构及神经计算特点 神经网络中所存储的四个图像 神经网络研究历史及应用领域 神经网络模型总结 第一节 神经网络模型的基本组成 神经网络模型的基本组成 之神经元 生物神经元的基本组成 细胞体 突起 树突 轴突 神经元的基本功能（1） 接收输入 输入类型 输入的权值 抑制性连接权值 活跃性连接权值 传播规则（传播函数） 把某类净输入与其连接权值结合起来，使该类输入对目的处理单元产生最终净输入的规则。 神经元的基本功能（2） 处理输入 活跃状态（活跃值） 活跃值 活跃函数（活跃规则） 把某一处理单元的各类净输入相互结合起来，再与该处理单元当前活跃状态相结合，以产生一个新的活跃状态的规则。 活跃函数类型 恒等函数、阈值函数、S型单调函数 神经元的基本功能（3） 产生输出 输出值的作用 输出函数（输出规则） 根据某一神经元的当前活跃值产生对其它神经元影响的输出值的规则。 输出函数类型 硬极限函数、阈值函数、S型单调函数、恒等函数 神经网络模型的基本组成 之网络 神经网络结构 连接矩阵 连接模式 多层、单层 反馈、前馈 神经网络模型的基本组成 之学习规则 学习规则 根据环境动态修改各个处理单元之间连接权值的规则。 典型的学习规则 Hebbian学习规则 Delta学习规则 学习的类型 联想学习 自联想 异联想 规则发现 神经网络模型的基本组成 之环境 环境内容 输入 输出 神经网络模型的基本组成 小结 传播规则 活跃规则 输出规则 互连模式 学习规则 环境 第二节 神经网络的分类以及典型的神经网络模型 神经网络分类原则 按神经网络模型的拓扑结构可以分为反馈神经网络模型和前向神经网络模型。 按神经网络模型的性能可分为连续型与离散型神经网络模型，确定型与随机型神经网络模型。 按学习方式可以分为有教师学习神经网模型和无教师学习神经网络模型。 按连接突触性质可以分为一阶线性关联神经网络模型和高阶非线性关联神经网络模型。 典型的神经网络模型 自适应谐振理论（ART） 该模型主要包括ART1、ART2和ART3，它们可以对任意多和任意复杂的二维模式进行自组织、自稳定和大规模并行处理。ART1主要用于二值输入，ART2和ART3主要用于连续信号输入。该类模型主要用于模式识别（如雷达、声纳的信号识别）。 缺点是对转换、失真及规模的变化较为敏感。 典型的神经网络模型 雪崩模型（Avalanche） 该类神经网络模型可以学习、 记忆和重现随机复杂度的时空模式。主要用于连续的语音识别和教学机器人。 缺点是调节困难。 典型的神经网络模型 双向相联存储器（BAM ） 该类神经网络模型是由许多相同神经元构成的双向联想式两层网络，主要用作按内容寻址的相联存储。 缺点是存储容量小而且需很好地进行编码。 典型的神经网络模型 反传神经网络模型（BP） 该类神经网络模型是一多层映射神经网络。采用的是最小均方差的学习方式，是目前使用最广泛的神经网络模型之一。主要用于语言综合、语言识别、自适应控制等。 缺点是它仅仅是有监督的一种学习方式，而且输入、输出样本都必须是冗余的。 典型的神经网络模型 Boltzmann机／Cauchy机（BCM ） 该类神经网络模型使用一噪声过程求得整个模型花费函数（cost function）的全局极小值。主要用于模式识别（图像、声纳和雷达信号的识别）。 缺点是Boltzmann机的训练时间长，Cauchy机会按一定的统计分布产生噪声。 典型的神经网络模型 盒中脑状态模型（BSB ） 该类神经网络模型是具有最小均方差的单层自联想网络模型。可以用于从数据库中提取知识。 缺点是仅仅为单步决策，没有交互性的推理。 典型的神经网络模型 对流传播模型（CPN ） 该类神经网络模型是一种在功能上作为统计最优化和概率密度函数分析的网络模型。主要用于图像压缩、统计分析、贷款应用打分。 缺点是对任何类型的问题均需大量的处理单元和连接。 典型的神经网络模型 Hopfield神经网络模型 它是由相同处理单元构成的单层自联想网络模型。主要用于从片段中进行图像和数据的