模式识别 与物联网.pptVIP

第1页，共33页，星期日，2025年，2月5日目录1.神经网络概念及优点2.神经网络数学模型3.神经网络分类4.神经网络的学习系统5.介绍神经网络分类和传统分类器6.神经网络的学习和泛化7.特征变量选择8.误分类代价第2页，共33页，星期日，2025年，2月5日什么是人工神经网络？国际著名的神经网络研究专家，第一家神经计算机公司的创立者与领导人HechtNielsen给人工神经网络下的定义就是：“人工神经网络是由人工建立的以有向图为拓扑结构的动态系统，它通过对连续或断续的输入状态进行信息处理。”第3页，共33页，星期日，2025年，2月5日人工神经网络有什么优点？(1)可以充分逼近任意复杂的非线性关系；(2)所有定量或定性的信息都等势分布贮存于网络内的各神经元，故有很强的鲁棒性和容错性；(3)采用并行分布处理方法，可以进行快速大量的运算；(4)可学习和自适应不知道或不确定的系统；(5)能够同时处理定量、定性知识。第4页，共33页，星期日，2025年，2月5日优点表现？第一，具有自学习功能，预期未来。第二，具有联想存储功能。第三，具有高速寻找优化解的能力。第5页，共33页，星期日，2025年，2月5日神经网络数学模型X1，X2，……，Xn是神经元的输入，即是来自前级n个神经元的轴突的信息A是i神经元的阎值；Wi1，Wi2……，Win分别是i神经元对X1，X2，……，Xn的权系数，Yi是i神经元的输出；f[·]是激发函数，它决定i神经元受到输人X1，X2，……，Xn的共同刺激达到阀值时以何种方式输出。第6页，共33页，星期日，2025年，2月5日激发函数f[·]有多种形式，其中最常见的有阶跃型、线性型和S型三种形式：阶跃型激发函数，它的输出是电位脉冲，这种激发函数的神经元称离散输出模型。线性激发函数，它的输出是随输入的激发总量成正比的；这种神经元称线性连续型模型。s型激发函数，它的输出是非线性的；这种神经元称非线性连续型模型。第7页，共33页，星期日，2025年，2月5日在人们提出的几十种神经网络模型中，人们较多用的是Hopfield网络、BP网络、Kohonen网络和ART(自适应共振理论)网络。Hopfield网络是最典型的反馈网络模型，它由相同的神经元构成的单层，并且具有学习功能的自联想网络。它需要对称连接。这个网络通过学习以完成制约优化和联想记忆等功能。它是目前人们研究得最多的模型之一。第8页，共33页，星期日，2025年，2月5日BP网络是反向传播(BackPropagation)网络。它是一种多层前向网络，采用最小均方差学习方式。这是一种最广泛应用的网络。它可用于语言综合，识别和自适应控制等用途。BP网络需有教师训练。Kohonen网络是典型的自组织神经网络，这种网络也称为自组织特征映射网络SOM。它的输入层是单层单维神经元；而输出层是二维的神经元，神经元之间存在以“墨西哥帽”形式进行侧向交互的作用。因而，在输出层中，神经元之间有近扬远抑的反馈特性；从而使Kohonen网络可以作为模式特征的检测器。第9页，共33页，星期日，2025年，2月5日ART网络也是一种自组织网络模型。这是一种无监督学习网络。它能够较好地协调适应性，稳定性和复杂性的要求。在ART网络中，通常需要两个功能互补的子系统相互作用．ART网络主要用于模式识别，它不足之处是在于对转换、失真和规模变化较敏感。第10页，共33页，星期日，2025年，2月5日神经网络的学习规则可以粗略分成3类:1.相关学习规则这种规则只根据连接间的激活水平改变权系数。常用于自联想网络，如Hopfield网络2.纠错学习规则这种规则根据输出节点的外部反馈改变权系数。按局部改善最大的方向一步步进行优化，从而最终找到全局优化值。感知器学习就采用这种纠错学习规则．例如BP算法。用于统计性算法的模拟退火算法也属于这种学习规则。3.无监督学习规则。它是一种对输入测检进行自适应的学习规则。ART网络的自组织学习算法即属于这一类。第11页，共33页，星期日，2025年，2月5日神经网络信息处理的数学过程这个过程可分为两个阶段；执行阶段和学习阶段。下面以前向网络情况说明这两个阶段。1．执行阶段:指神经网络对输入信息进行处理，并产生对应的输出过程。第12页，共33页，星期日，2025年，2月5日2．学习阶段:学习阶段是指神经网络自我完善的阶段；这时，网络按一定的学习规则修改突触的权系数Wij，以使到结定的测度函数E达到最小。神经网络对信息的学习是为了取得对信息的适应特性，或信息的特征；而神经网络