一种面向编码MapReduce框架的传输纠错方法及系统.pdfVIP

  • 0
  • 0
  • 约1.86万字
  • 约 16页
  • 2023-08-23 发布于四川
  • 举报

一种面向编码MapReduce框架的传输纠错方法及系统.pdf

本发明公开了一种面向编码MapReduce框架的传输纠错方法及系统。所述方法面向编码MapReduce中Shuffle阶段的传输正确性问题,基于编码MapReduce组播组内多播的特性,在充分利用各个节点本身所具有的冗余中间结果的基础上,通过设计一种全新的分布式编码方案,以组播组为单位对中间文件进行编码以及多播,既充分利用了编码MapReduce所带来的计算冗余,又显著降低了Shuffle阶段进行编码纠错所带来的冗余通信负载,从而将进行传输纠错的MapReduce任务总执行时间降低。

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116633485 A (43)申请公布日 2023.08.22 (21)申请号 202310349413.X (22)申请日 2023.04.04 (71)申请人 南京大学 地址 210023

文档评论(0)

1亿VIP精品文档

相关文档