人工神经网络设计课程报告byHHU剖析.docx

人工神经网络课程报告 姓名：张进 学号：151307040035 专业：计算机科学与技术 指导老师：曾晓勤 2015年12月  PAGE \* MERGEFORMAT 41 基于BP神经网络的英文字母识别技术报告 摘要：本技术报告主要介绍了利用BP神经网络进行英文字母的识别主要过程，为了检测网络的容错性能和抗干扰能力，试验中我还准备了隐藏16%和33%样本数据，因为题目中没有特别要求，故本次实验程序的编写主要使用了作者较为熟悉的JAVA语言。 关键词：BP神经网络；噪声干扰；模式识别；JAVA语言 一、项目设计题目 用多层感知机网络实现对样本图像A-Z的识别，输出相应的数值0-25，通过分析实验结果讨论感知机网络的识别和容错性能。 二、实验设计概要 实验数据预处理 模式识别应用的领域非常广泛，其中字母的识别是一个经常研究的课题。由于在不同的课题中，由于具体的条件不同，解决的方法也不尽相同，因而字符识别的研究仍具有理论和实践意义。这里讨论的是用BP神经网络对26个英文字母的识别，BP网络算法是学者Rumelhart、McClelland和他们的同事在20世纪80年代中期提出的多层前馈网络MFNN(MutltilayerFeedforward?Neural?Networks)的反向传播学习算法。BP网络是对非线性可微分函数进行权值训练的多层前向网络。。 在对字母进行识别之前，需要将字母进行预处理，即将待识别的26个字母中的每一个字母都通过的方格形式进行数字化处理，其有数据的位置设为1，其他位置设为-1。如图1给出了字母A、B和C的数字化过程。下面给出了字母A的数字化处理结果，是用一个1*30向量表示，其结果为： P[0][30]={-1,-1,1,1,1,1,-1,1,-1,1,-1,-1,1,-1,-1,1,-1,-1,-1,1,-1,1,-1,-1,-1,-1,1,1,1,1}；其他字母对应的向量也做类似的处理。最终的标准输入矩阵P[26][30],包含26个字母向量。 -1-11-1-1-11-11-11-1-1-11111111-1-1-111-1-1-11-1111-11-1-1-111-1-1-1-11-1-1-1-11-1-1-11-1111-11111-11-1-1-111111-11-1-1-111-1-1-111111-1 A B C 图1 字母数字化样式 网络的初始设计 本次网络主要选择如图2所示的网络结构，其中有一个输入层，一个隐含层，一个输出层，网络结构为30-30-1，其中，。 图2 网络结构 本次如图2所示的网络中，p为待输入的学习（识别）向量，因为每个字母都有30个元素的向量表示，所以p的维数为30*1，w1为第一层权值，维数30*30，w2为第二层权值，维数30*1，b1为第一层偏值，维数30*1，b2为第二层偏值，维数1*1，a1为第一层输出，维数30*1，a2为网络最后的输出，至此基本的网络结构初始设计完毕。 初始化各项参数 本次初始化参数主要包括初始化隐含层第一层的权值w1[30][30]和偏置值b1[30]，初始换隐含层第二层的权值w2[30]和偏置值b2，本次实验选取的初始值为0-0.5之间的随机实数。其中随机实数可以通过调用JAVA语言的random()方法得到。对于学习速度α可以先设置为：α=0.01，当然，也可以在后面的实验过程中不断的调节α的值使得学习的更快更好，具体代码实现见附录。 前向传播设计 在前面工作完成的基础上，首先需要根据BP算法的公式和计算第一层网络的输出a1，然后根据公式计算出最后输出层的a2，这就是BP神经网络的前向传播过程。最后根据计算出误差e，具体代码实现见附录。 敏感性计算 由于在计算敏感性之前需要用到传输函数的导数，故需要提前计算出来。具体导数推导如式（5.1）和式（5.2）所示： （5.1） （5.2) 然后根据式（5.1）和式（5.2）可以得到s2的计算公式和第一层敏感性s1的计算公式，具体代码实现见附录。 权值和偏值的更新 这里需要用到我之前设置的学习速度α，实验中可以尝试修改