第八章_人工神经网络在模式识别中的应用..docVIP

第八章 人工神经网络在模式识别中的应用 第一节 人工神经网络概述 一、概述 模式识别理论的发展表明，人们不但要研究计算机信息分析技术，而且还应进行人类感知与思维机理的探索。从深层意义上看，模式识别与人工智能所研究的是如何用计算机实现人脑的一些功能。一方面，从要实现的功能出发，我们可以将功能分解成各子功能，直至设计出算法来实现这些子功能，这是自顶向下的分析方法。另一方面，人脑无论多么复杂，都可以看做是由大量神经元组成的巨大的神经网络。从模拟神经元的基本功能出发，逐步从简单到复杂组成各种神经网络，研究它所能实现的功能，这是自底向上的综合方法。现阶段研究成果表明，计算机识别系统具有一定的智能，但与人相比还相差很远。但作为一种技术途径，人工神经网络技术以其崭新的思路，优良的性能引起了人们极大的研究兴趣，在相应的领域也取得了长足的进展。 人工神经网络的研究与计算机的研究几乎是同步发展的，并且相互间有一定的促进作用。1943年，心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型，成为人工神经网络研究的开端。1949年，心理学家D．O．Hebb提出神经元之间突触联系强度可变的假设，并据此提出了神经元的学习准则，为人工神经网络的学习算法奠定了基础。现代串行计算机的奠基人Von Neumann在20世纪50年代就已注意到计算机与人脑结构的差异，对类似于神经网络的分布系统做了许多研究。50年代末，Rosenblatt提出了感知器模型，首次把人工神经网络的研究付诸工程实践，引起了许多科学家的兴趣。1969年，人工智 能创始人之一的Minsky和Papert出版了《感知器》，从数学上深入分析了感知器的原理，指出其局限性，加之当时串行计算机正处于全盛发展时期，早期的人工智能研究也取得了很大成就，从而掩盖了发展新计算模型的迫切性，使有关人工神经网络的研究热潮低落下来。但在此期间仍有不少科学家坚持这一领域的研究，对此后的人工神经网络研究提供了很好的理论基础。 1982年，Hopfield提出了人工神经网络的一种数学模型，引入了能量函数的概念，研究了网络的动力学性质；紧接着又设计出用电子线路实现这一网络的方案，同时开拓了人工神经网络用于联想记忆和优化计算的新途径，大大促进了人工神经网络的研究。1986年，Rumelhart及LeCun等学者提出了多层感知器的反向传播算法，扫清了当初阻碍感知器模型继续发展的重要障碍。另一方面，20世纪80年代以来，传统的基于符号处理的人工智能在解决工程问题时遇到了许多困难。现代的串行机尽管有很好的性能，但在解决像模式识别、学习等对人来说是轻而易举的问题上显得非常困难。这就促使人们怀疑当前的VonNeumann机是否能解决智能问题，也促使人们探索更接近人脑的计算模型，于是又形成了对人工神经网络研究的热潮。现在人工神经网络的应用已渗透到众多的领域，如智能控制、模式识别、信号处理、计算机视觉、优化计算、知识处理、生物医学工程等。 基于人工神经网络的模式识别方法相对其他方法来说，其优势在于：(1)具有较强的容错性，能够识别带有噪声的输入模式；(2)具有很强的自适应学习能力；(3)可以实现特征空间较复杂的划分；(4)能够适于用高速并行处理系统实现。但也存在以下弱点：(1)需要更多的训练数据；(2)在通常的计算机上实现模拟运行速度较慢；(3)无法得到所使用的决策过程的透彻理解(例如，无法得到特征空间中的决策面)。 一种乐观的观点认为，由于人脑具有极强的模式识别能力，这就意味着人工神经网络最终很可能具有这种能力。然而，迄今为止对由人工神经网络实现的模式识别系统性能的测试结果表明，一般能达到良好的统计分类器的性能水平。 对于任何分类器，无论它是怎样实现的，实质上其功能不过是将特征空间划分为与每类对应的不同区域，并依此将对象分类。而分类器的性能最终既为特征空间中不同类别的相互重叠所限制，又为获得有代表性的训练样本集、由样本集建立最优的分类界面以及设计分类器的程序等实际困难所限制，因此，只有当人工神经网络方法能比统计方法更好地划分特征空间时，它的性能才有可能比基于统计方法的分类器更好。即使如此，它的性能从根本上还是要受到特征空间中不同类的重叠的限制。 二、人工神经网络基础 1．生物神经元与人工神经元 人的大脑是由近140亿个不同种类的神经元(神经细胞)组成的，神经元的主要功能是传输信息。一个神经细胞单元即神经元主要是由细胞体、树突、轴突和突触组成的，其结构如图8-1-l所示。细胞体由细胞核、细胞质、细胞膜等组成，细胞体是神经元新陈代谢的中心，是接受和处理信息的单位。高等动物的神经细胞，除了特殊的神经元外，一般每个神经元都在细胞体的轴丘处生长着一根粗细均匀、表面光滑的突起，