BP神经网络解决三个变量的异或问题.docVIP

课 程 论 文 课程名称： 智能控制 课题：BP神经网络解决三个变量的异或问题 学 院： 电气信息学院 学 系： 专 业： 自动化 年 级： 学 号： 姓 名： 指导老师： 2013年 1月 5日 BP神经网络解决个变量异或的研究 的各个参数（网络层数、各层神经元数、各层激活函数、学习速率、学习方式）对网络的影响；然后结合本课题的特点和网络训练的思想，通过深入分析选择合适的参数；接着构建BP网络，产生训练样本，在MATLAB中进行大量次训练，选取最优结果作为本文的最终结果；最后产生仿真数据，对训练好的网络进行仿真，并对输出结果和仿真结果进行分析。 1.BP网络介绍 自19世纪末至20世纪初神经生理学出现后，神经网络作为解开人脑生理机制的一个重要手段引起各行各业科学家的浓厚兴趣，大批科学家投入该项研究中。神经网络经历半个多世纪的研究和发展已经取得了重大的进展，NN数学模型、Hebb规则、感知器模型、ADALINE学习算法、ART、SOM等模型和算法先后被提出。自20世纪80年代以来，神经网络的研究出现突破性的进展，Hopfield、BP、CMAC、Boltzman Machine、FNN、RBF等新型神经网络被提出。目前，神经网络已经广泛应用在模式识别、人工智能、控制工程、优化分析和联想记忆、信号处理、函数逼近等领域。 1986年，Rumelhart等PDP研究小组提出了多层前向传播网络的BP学习算法，为前向神经网络的快速有导学习提供了十分有效的方法，也为神经网络的实际应用开辟了一条新途径。BP网络[1]是典型的有导师的前向传播网络，它具有以下特点： ⑴信号正向传播，即训练样本输入后传输到隐含层，再传输到输出层。这一过程实质上表示的是一种从输入到输出空间的映射。对于给定的输入矢量，其网络的响应可以由方程式（1-1）给出。 其中一般表示与网络结构相关的非线性算子。 ⑵采用有导师学习的训练方法，BP网络学习的“导师”通常是期望输出与实际输出之间误差平方和的极小。训练一个周期一个周期地进行，在每一周期内对所有的样本集进行训练，一旦一个周期完成，下一个周期仍然对此样本集进行训练，直到期望输出与实际输出之间误差平方和满足要求。 ⑶利用误差反向传播学习算法，训练网络权阵的更新通过反向传播网络的期望输出与实际输出的误差来实现。 BP网络作为一种单向传播的多层前向网络，在模式识别、图像处理、系统辨识、函数拟合、优化计算、最优预测和自适应控制等领域有着较为广泛的应用。 2.解决本课题的方法实现 2.1选择BP网络解决异或问题的原因 异或问题本质上是分类问题，要求将输入的样本组分为两类，一类样本经异或运算后结果为1，另一类经异或运算后结果为0。研究表明，BP网络特别是具有单隐层的BP网络具有较强的分类能力，能够解异或问题。 2.2网络结构和参数设置 MATLAB为用户提供了函数[2]，用于构建BP神经网络，该函数的一般结构如（2-1）所示： 其中， 表示训练样本的输入矢量；表示训练样本的输出矢量； ，表示第1到第层隐层的神经元节点数，表示输出层神经元节点数，由决定 ；, 表示第1到第层隐层的激活函数，表示输出层激活函数；表示训练函数；表示权重学习函数，默认时为learngdm，表示性能函数，默认为mse，即实际输出与期望输出的误差平方和；表示输入单元行的处理函数，默认为{fixunknowns,remconstantrows,mapminmax}；表示输出单元行的处理函数，默认为{remconstantrows,mapminmax}；表示数据划分函数，默认为dividerand。 为解决3个变量的异或问题，我构建了如（2-2）所示的BP网络： 该网络有3层，输入层包含3个神经元，隐层包含3个神经元，输出层包含1个神经元。隐层的激活函数为tansig,输出层的激活函数为satlin,权阵训练函数为trainlm。 2.3网络构建的依据 2.3.1输入层和输出层神经元数目的选择 输入层神经元个数与输入样本维数相同，本实验输入样本为3维向量，所以输入层包含3个神经元。输出层神经元个数设计可根据设计者的需求设计，由于本文要解决的异或问题是单输出的0或1，所以输出层选择1个神经元。 2.3.2隐层层数和神经元数目选择[3] 参考其他专家和学者的经验，我了解到含有单隐层的BP网路能很好的解决异或问题。对于隐层神经元数目的