基于BP神经网络的手写数字数识别实验报告总结计划.docx

基于 BP 神经网络的手写数字识别实验报告 基于 BP 神经网络的手写体数字图像识别 PT1700105 宁崇宇 PT1700106 陈玉磊 PT1700104 安传旭 摘要 在信息化飞速发展的时代， 光学字符识别是一个重要的信息录入与信息转化的手段， 其中手写体数字的识别有着广泛地应用， 如：邮政编码、统计报表、银行票据等等，因其广泛地应用范围，能带来巨大的经济与社会效益。 本文结合深度学习理论，利用 BP 神经网络对 手写体数字数据集 MNIST 进行分析，作为机器 学习课程的一次实践，熟悉了目前广泛使用的 Matlab 工具，深入理解了神经网络的训练过程，作为非计算机专业的学生， 结合该课题掌握了用神经网络处理实际问题的方法， 为今后将深度学习与自身领域相结合打下了基础。 引言 从计算机发明之初，人们就希望它能够帮助甚至代替人类完成重复性劳作。利用巨大的存储空间和超高的运算速度， 计算机已经可以非常轻易地完成一些对 于人类非常困难的工作， 然而，一些人类通过直觉可以很快解决的问题， 却很难通过计算机解决，这些问题包括自然语言处理、图像识别、语音识别等等，它们就是人工智能需要解决的问题。 计算机要想人类一样完成更多的智能工作， 就需要掌握关于这个世界的海量知识，很多早期的人工智能系统只能成功应用于相对特定的环境， 在这些特定环境下，计算机需要了解的知识很容易被严格完整地定义。 为了使计算机更多地掌握开放环境下的知识，研究人员进行了很多的尝试。 其中影响力很大的一个领域就是知识图库（ Ontology ），WordNet 是在开放环境中建立的一个较 大且有影 响力的知 识图库，也 有不少 研究人员尝 试将 Wikipedia 中的知识整理成知识图库， 但是建立知识图库一方面需要花费大量的人力和物力，另一方面知识图库方式明确定义的知识有限， 不是所有的知识都可以明确地定义成计算机可以理解的固定格式。很大一部分无法明确定义的知识， 就是人类的经验， 如何让计算机跟人类一样从历史的经验中获取新的知识， 这就是机器学习需要解决的问题。 卡内基梅隆大学的 Tom Michael Mitchell 教授在 1997 年出版的书籍中将机器学习定义为“如果一个程序可以在任务 T 上，随着经验 E 的增加，效果 P 也可以随之增加，则称这个程序可以从经验中学习”。逻辑提取算法可以从训练数据 中计算出每个特征和预测结果的相关度， 在大部分情况下， 在训练数据达到一定数量之前，越多的训练数据可以使逻辑回归算法的判断越精确， 但是逻辑回归算法有可能无法从数据中学习到好的特征表达， 这也是很多传统机器学习算法的共同问题。 对机器学习问题来说，特征提取不是一件简单的事情。在一些复杂问题上，要通过人工的方式设计有效的特征集合， 需要很多的时间和精力， 甚至需要整个领域数十年的研究投入。 既然人工无法很好地抽取实体中的特征， 那么是否有自动的方式呢？深度学习解决的核心问题就是自动地将简单的特征组合成更加复 杂的特征，并使用这些特征解决问题。 因为深度学习的通用性， 深度学习的研究者往往可以跨越多个研究方向， 甚至同时活跃于数个研究方向。 虽然深度学习受到了大脑工作原理的启发， 但现代深度学习研究的发展并不拘泥于模拟人脑神经元和人脑的工作原理， 各种广泛应用的机器学习框架也不是由神经网络启发而来的。 MATLAB 是美国 MathWorks 公司出品的商业数学软件， 用于算法开发、 数据可视化、数据分析以及数值计算的高级技术计算语言和交互式环境， 主要包括 MATLAB 和 Simulink 两大部分。 MNIST 是一个非常有名的手写体数字识别数据集，被广泛用作机器学习的 入门样例，它包含了 60000 张图片作为训练数据， 10000 张图片作为测试数据，每一张图片代表了 0~9 中的一个数字，图片的大小为 28x28 ，且数字会出现在图片的正中间。 本文以该数据集为例， 基于 Matlab 来分析 BP 神经网络的性能。 运行环境 本设计在 Windows 10 下进行设计、主要利用 Matlab 工具环境，进行模拟演示。 方法概述 3.1 神经元网络 神经网络是一种模仿动物神经网络行为特征， 进行分布式并行信息处理的算 法数学模型。这种网络依靠系统的复杂程度， 通过调整内部大量节点之间相互连 接的关系，从而达到处理信息的目的。 神经网络由多个神经元构成，下图就是单个神经元的图 1 所示： 图 1 神经元模型 这个神经元是以 x1, x2 , x3 以及截距 1 为输入值的运算单元，其输出为 hW ,b ( x) f (W T x) f ( 3 Wi xi b) ，其中函数 f ( ) 被称作“激活函数”。一般选用 i sigmo