基于迭代式MapReduce的误差反向传播算法.docVIP

基于迭代式MapReduce的误差反向传播算法 　　摘要：针对误差反向传播（BP）算法计算迭代的特点，给出了迭代式MapReduce框架实现BP算法的方法。迭代式MapReduce框架在传统MapReduce框架上添加了传送模块，避免了传统框架运用在迭代程序时需要多次任务提交的缺陷。通过对K/TGR146对空台射电开关控制系统进行仿真得到BP算法训练样本，并在Hadoop云计算环境下，分别在基于传统框架和迭代式框架的BP算法中进行训练。实验结果表明，基于迭代式MapReduce框架的BP算法训练速度达到了基于传统MapReduce框架的BP算法训练速度的10倍以上，正确率提升了10%～13%，能有效解决算法训练时间过长和迭代计算中多次任务提交的问题。 　　关键词：MapReduce；误差反向传播算法；迭代；云计算 　　中图分类号：TP393.0 文献标志码：A 　　0引言 　　误差反向传播（error Back Propagation， BP）算法[1]是故障诊断领域的基本算法，在故障诊断领域应用广泛。随着机械设备复杂化程度的提高，BP算法所需处理故障样本的数据规模日益扩大，如何高效处理大规模的样本数据就变得愈加重要。MapReduce计算模型[2]是Google公司提出的分布式并行计算模型，能组织集群来处理大规模数据集，对于大规模数据的快速处理有着巨大的优势。MapReduce是云计算[3-4]平台上的一个分布式计算框架，将它运用到BP算法中可以分布式地处理算法的输入数据，极大减少算法的计算开销，提高算法的效率，为及时准确的故障诊断提供了有力的支撑。 　　BP算法属于迭代算法，而传统MapReduce计算框架在迭代算法的运算上存在缺陷[5-6]。在运算过程中，每一次迭代都需要一次任务提交，计算效率低，非计算开销大。文献[7-10]对MapReduce作了改进和优化。本文采用添加传送模块的迭代式MapReduce框架[7]来进行BP算法的优化实现，利用传送模块的数据传送功能解决多次任务提交的问题。 　　1MapReduce并行计算模型 　　1.1传统MapReduce框架 　　MapReduce计算模型的基本思想是“分而治之”，通过“Map（映射）”和“Reduce（化简）”来实现并行计算[2]。Map任务就是对分割后的部分原始数据进行指定的操作；Reduce任务针对每个Map任务产生的中间结果进行混合操作，所有Reduce任务产生的最终结果经过简单的处理就得到了最后的结果集。将MapReduce运用到特定算法上可以带来算法性能的飞跃[11]。 　　1.2迭代式MapReduce框架 　　传统MapReduce框架对于迭代算法的处理存在一定的不足。在迭代算法中，每次迭代计算的输出是下次迭代的输入。采用传统MapReduce框架进行计算时，每次迭代对应一个MapReduce任务提交。因此，完成整个算法需要多次对任务进行提交，计算效率低、非计算开销大。迭代式MapReduce框架[7]通过传送模块将每次迭代结果传递给相应任务节点，只需一次任务提交即可完成全部运算。因此，对于迭代程序的处理，更适合采用添加传送模块的迭代式MapReduce框架来实现。迭代式MapReduce的总体框架如图1所示。 　　该迭代式MapReduce框架在传统框架上增加了Control模块和Transport模块。Control模块运行在NameNode节点，负责控制Transport模块，并为各个节点提供运行地址、监控节点间的数据传送，保证每个计算节点任务的顺利运行；Transport模块运行在用户指定的DataNode节点，运行前需向Control模块进行注册，通过心跳来更新数据信息，即每隔一段固定的时间将自身信息传递给Control模块，并负责节点间数据接收和传送。从图1可看出，新增的传送模块同传统MapReduce框架间是互不干扰的。因此，当传送模块关闭时，该框架就可履行传统框架的功能，体现了该框架适应性强、灵活度高的特点。 　　3实验结果与分析 　　3.1BP算法样本数据的获取 　　对K/TGR146对空台射电开关控制系统进行Matlab仿真，得到算法所需样本数据。射电开关控制系统的结构如图4所示。 　　根据系统结构特点，仅考虑射电开关状态，可以得出射电开关故障模式主要有三种：损毁失效、恒增益失效和恒偏差失效。将控制系统在Matlab中进行仿真，人为地使系统分别产生上述三种故障模式。分别在t=10s，20s，30s，40s，50s时采集传感器和控制器的输出，作为BP算法的训练样本数据。 　　表1为t=10s，20s，30s，40s，50s时采集到的数据，表中每种故障模式只列举两个样本，在实验中通过在Mat