面向大规模矩阵乘法的编码计算方案设计与实现.docxVIP

面向大规模矩阵乘法的编码计算方案设计与实现 摘要：为了更好地使用编码计算提高分布式机器学习算法运行效率，需要对大规模矩阵乘法的编码计算方案性能开销进行充分的研究。该文考察了面向大规模矩阵乘法的编码计算方案的任务完成时间，同时也考虑了所有参与分布式计算的节点总的计算开销，给出了各个工作节点完成计算任务的时间，均匀分布场景下总的任务完成时间和集群机器总的计算时间的表达式，对比分析了3种编码方案的性能，并通过实验对比了不同情况对任务完成时间与计算节点总计算开销影响，提出了一个启发式算法，提供了不同编码计算方案的选择依据。 互联网的飞速发展和大数据处理框架的进步推动了大规模的机器学习部署，并促进了分布式机器学习算法在更多领域中的应用Tandon等上述研究都是通过提出编码方案来增加对掉队节点的鲁棒性，并未对各自编码方案的性能开销展开研究，本文重点考察了面向分布式机器学习的各编码计算方案的任务完成时间和机器计算总时间两类开销。本文定义了面向分布式机器学习的编码计算的两个性能指标：一是某个使用该编码方案的计算任务完成时间，即完成整个计算任务所需要的时间；二是整个计算任务的机器计算总时间，即整个分布式计算系统中所有工作节点对该计算任务进行计算的时间的总和。通过计算由n个工作节点组成的分布式系统中第i个完成计算任务的节点的密度函数，给出工作节点计算任务完成时间符合均匀分布场景下计算任务