新型神经网络及样本点划分方法1.docVIP

神经网络的样本点划分的新方法 摘要：异或问题是神经网络的经典应用问题，传统的解决方法往往是通过引入多层感知器模型，建立三层神经网络。本论文将经典异或问题作为切入点，先介绍多层感知器模型的解决方式，再引出一种新型的神经网络样本点划分方法，有效利用超平面内空间，将传统的多层感知器模型解决的问题通过简单模型解决。 关键字：异或问题、超平面 一、简单感知器 感知器是一种早期的神经网络模型，由美国学者F.Rosenblatt于1957年提出.感知器中第一次引入了学习的概念，使人脑所具备的学习功能在基于符号处理的数学到了一定程度的模拟，所以引起了广泛的关注。 简单感知器模型实际上仍然是MP模型的结构，但是它通过采用监督学习来逐步增强模式划分的能力，达到所谓学习的目的。 简单感知器模型结构见图一 f(·) 图一 简单感知器模型 感知器处理单元对n个输入进行加权和操作v即： 其中，Wi为第i个输入到处理单元的连接权值θ为阈值。 f取函数. 感知器在形式上与MP模型差不多，它们之间的区别在于神经元间连接权的变化。感知器的连接权定义为可变的，这样感知器就被赋予了学习的特性。 利用简单感知器可以实现逻辑代数中的一些运算。 XOR：y=V 0 0 0 0 1 1 1 0 1 1 1 0 但是对于逻辑XOR“异或”问题，需要求解满足下列公式条件和表一中 表一 显然，上述方程组无解，也即是简单感知器无法解决“异或”问题。所以简单感知器只能进行线性分类，而对非线性样本的划分无法实现。上述的XOR问题在二维空间中就是一个非线性的样本空间分类问题.如图二所示。 I 0 I 图二 样本空间图 二、应用多层感知器解决异或问题 实际上从“异或”的几何意义上讲，相当于存在一个正方形的四个顶点，不存在一条直线（如图二中的虚线）能将★（XOR1）与★（XOR0）的点分开。所以简单感知器无法实现异或问题。 由此引入多层感知器，如果在输入和输出层间加上一层或多层的神经元(隐层神经元)，就可构成多层前向网络，这里称为多层感知器（模型图见图三）。  这里需指出的是：多层感知器只允许调节一层的连接权。这是因为按感知器的概念，无法给出一个有效的多层感知器学习算法。 固定权 可调权 ┋ ┋ ┋ 输入层 隐层 输入层 图三 多层感知器模型 对于上面述及的异或问题，用一个简单的三层感知器就可得到解决 实际上，该三层感知器的输入层和隐层的连接，就是在模式空间中用两个超平面去划分样本，即用两条直线（样本空间分类如图四）： x1+x2=0.5 x1十x 2＝1.5。 I 0 I 图四 XOR问题样本