大数据技术原理与应用.pptVIP

  • 22
  • 0
  • 约1.42万字
  • 约 57页
  • 2016-11-15 发布于山西
  • 举报
大数据技术原理与应用

9.5.1 Pregel的执行过程 图9-7 Pregel的执行过程图 (4)Master向每个Worker发送指令,Worker收到指令后,开始运行一个超步。当一个超步中的所有工作都完成以后,Worker会通知Master,并把自己在下一个超步还处于“活跃”状态的顶点的数量报告给Master。上述步骤会被不断重复,直到所有顶点都不再活跃并且系统中不会有任何消息在传输,这时,执行过程才会结束。 (5)计算过程结束后,Master会给所有的Worker发送指令,通知每个Worker对自己的计算结果进行持久化存储 9.5.2 容错性 Pregel采用检查点机制来实现容错。在每个超步的开始,Master会通知所有的Worker把自己管辖的分区的状态写入到持久化存储设备 Master会周期性地向每个Worker发送ping消息,Worker收到ping消息后会给Master发送反馈消息 每个Worker上都保存了一个或多个分区的状态信息,当一个Worker发生故障时,它所负责维护的分区的当前状态信息就会丢失。Master监测到一个Worker发生故障“失效”后,会把失效Worker所分配到的分区,重新分配到其他处于正常工作状态的Worker集合上,然后,所有这些分区会从最近的某超步S开始时写出的检查点中,重新加载状态信息 9.5.3 Worker 在一个Worker中,它所管辖的分区的

文档评论(0)

1亿VIP精品文档

相关文档