神经网络讲义第3章.ppt

第三章 感知器 3.1感知器的目的 3.2理论和实例介绍 3.3感知器的学习规则 3.4感知器的局限性 3.5单层感知器神经网络的MATLAB 仿真程序设计 3.6多层感知器神经网络及其MATLAB仿真 3.7小节与例题 3.1 感知器的目的 读者可以将这一章看作是后面各章的一个前奏。这里将给出一个模式识别的简单问题，并说明如何用三种不同结构的神经网络来求解这个问题。这将提供一个了解如何利用上一章所给出的网络结构解决实际问题的机会。 3.2 理论和实例介绍 3.2.1 问题描述 某商贩有一个存储各种水果和蔬菜的货仓。当将水果放进货仓时，不同类型的水果可能会混淆在一起，所以商贩非常希望能够有一台能够帮他将水果自动分类摆放的机器。假设从水果卸车的地方到货仓之间有一条传送带。传送带要通过一组特定的传感器，这组传感器可以分别测量水果的三个特征：外形、质地和重量（如下图）。 3.2 理论和实例介绍 3.2 理论和实例介绍 对这些传感器： 如果水果基本上是圆形的，外型传感器的输出就为1;如果水果更接近于椭圆，那么外型传感器的输出就为-1。 如果水果表面光滑，质地传感器的输出就是1;如果水果表面比较粗糙那么质地传感器的输出就为-1 。 当水果重量超过1磅时，重量传感器的输出为1;水果重量轻于1磅时，重量传感器的输出为-1。 3.2 理论和实例介绍 然后，这三个传感器的输出将会输入到神经网络。网络的功能就是要确定传送带上是什么类型的水果，这样才能把不同类型的水果分别送到相应的储存仓内。为了使问题更加简单，现假设传送带上只有两种类型的水果：苹果和橘子。 当每个水果通过这些传感器后，它就可以用一个如式（3.1）所示的三维向量来表示。该向量的第一个元素表示外形，第二个元素表示质地，第三个元素表示重量： 所以，一个标准橘子可表示为： 一个标准苹果可表示为： 3.2 理论和实例介绍 对传送带上的每个水果而言，神经网络都可接收到一个三维输入向量，并且必须判断是一个橘子（ ）还是一个苹果（ ）。 下面首先讨论求解该问题要用到的三种不同类型的神经网络。对问题的简化有助于理解这些网络的工作原理。 3.2 理论和实例介绍 3.2.2 感知机 这里要讨论的第一个网络是感知机。图3-1给出了采用对称硬极限传输函数hardlims的单层感知机。 图3-1 单层感知机 3.2 理论和实例介绍 1.两个输入的情况 在用感知机求解橘子/苹果问题之前（它需要一个三输入感知机，也即R=3）。这里有必要先研究一下两输入单神经元感知机（R = 2 ）的能力。很容易用图示的法对其进行分析。两输入感知机如图3-2 所示。 单神经元感知机可将输入向量分成两类。 例如，对一个两输入感知机而言，如果任意选择 ,那么: 3.2 理论和实例介绍 如果权值矩阵（这里是一个只有一行的向量）与输入向量的内积大于等于-b，则感知机的输出为1;如果权值向量和输入的内积小于-b，那么感知机的输出为-1。这就将输入空间划分为两个部分. 图3-3 表明了当b＝-1 的情况下，该感知机对输入空间的这种划分情况。图中的斜线表示净输入n等于O的各点： 3.2 理论和实例介绍 3.2 理论和实例介绍 3.2 理论和实例介绍 3.2 理论和实例介绍 2．模式识别 现在回到前面所给出的橘子/苹果模式识别问题。因为仅仅只有两个类别，所以可采单神经元感知机。向量输入是三维的（R=3) ，该感知机的输入/输出关系由下式描述： 3.2 理论和实例介绍 现在希望选择适当的偏置值 和权值矩阵元素，使得该感知机能够将苹果和橘子区分开来。比如说，如果输入是苹果时，希望该感知机的输出为1 ;如果输入是橘子时，希望感知机的输出为-1。 下面将讨论如何应用图3-3所给出的概念，找到一个线性边界将橘子和苹果区分开来。两个标准向量(请参考式（3.2）和式（3.3 ))的空间表示如图3-4 所示。从图中可