云计算环境下并行进化神经网络的设计研究.PDF

安徽广播电视大学学报2017年第2期 云计算环境下并行进化神经网络的设计研究 马 宁，李 斌 （安徽广播电视大学，合肥 230022） 摘 要：针对提高进化神经网络进化时效性，充分利用神经网络的训练数据，提出一种在云计算Hadoop 平台环 境下，使用进化算法对BP 神经网络的权值和网络结构进行优化，通过分布并行计算，提高进化速度和效 率。理论分析和实验结果表明，在数据量较大时，该方法能有效地提高神经网络计算精度。 关键字：并行进化；神经网络；云计算 中图分类号：TP393.01；TP18 文献标识码：A 文章编号：1008-6021（2017）02-0115-05 一、引言 年，一个1TB 的数据信息集，在拥有900个节点的Ha- 人工神经网络是模拟人类大脑的工作原理，具 doop 平台上处理也仅只要3分钟，经过改进后，计算 有记忆、联想及存储的功能。目前使用最为广泛的 效率更是大幅度提升，处理时间缩短了60% 。Ha- 是前馈神经网络（BP 神经网络），当前研究已经证实 doop 集群工作分布如图1所示。 神经网络固有的一些缺陷，比如容易陷入局部极小 点、网络泛化性能不好、训练数据不足等。近年来， 进化神经网络（ENN ）为人工神经网络的发展开辟 了一条新的路径，通过对神经网络权值、网络结构 的优化，使得神经网络的一些缺陷得到改善，但已 有的进化神经网络算法仅仅是局限在进化算法与 神经网络的简单结合上，会产生计算量大、耗时的 缺陷。2006年，斯坦福大学的Cheng-Tao Chu 等人 提出在云计算环境下基于Map-Reduce 的BP 网络计 ［1］ 算办法 ，较之传统的单个网络的串行计算，具有较 好的训练速度和抗噪能力。另一方面，随着互联网 图1 Hadoop集群工作分布图 的发展而产生的大规模数据也急需更加高效的计 分布式文件系统Hadoop （HDFS ）运行在分布式 算。正是基于以上需求，需要一种在分布并行计算 的商业硬件上，HDFS 的优势非常明显，尤其在大数 环境下的进化神经网络，使用云计算的分布计算环 据集、对吞吐量要求高、对容错性能要求高的领域。 境、神经网络的非线性逼近、进化算法潜在的并行 这些优势与HDFS 的设计有关，如在POSIX 要求上， 性，实现大规模数据并行处理。 对数据流与文件系统之间的传输标准更为宽松。 二、云计算Hadoop平台 HDFS 应用程序具有很高的吞吐量，缘于它可以一次 云计算Hodoop 平台是基于JAVA 语言实现的，在 ［3］ 性地写入大量的文件 。 文本搜索领域，已得到较为广泛的使用，如雅虎、Face- HDFS 集群由一定数目的 DataNode 和一个 book 、Twitter 以及纽约时报等公司都在使用Hodoop NameNode 组成，在集群中，DataNode 负责管理其 平台，而且也已经取得较为满意的结果。早在2008 本身所在节点上的存储。NameNode 作为中心服务 收稿日期：2016-12-05 基金项目：安徽省优秀青年基金重点项目（项目编号：2013SQRL097ZD）；安徽省高校优秀青年人才支持计划重点项目（项目编号： gxyqZD2016454）。 作者简介：马 宁（1983-），男，安徽亳州人，讲师，硕士。研究方向：人工智能、云计算。 115 安徽广播电视大学学报2017年第2期