《大数据离线分析技术》课件——项目8:Spark内核原理.pptxVIP

  • 0
  • 0
  • 约2.89千字
  • 约 56页
  • 2026-08-10 发布于福建
  • 举报

《大数据离线分析技术》课件——项目8:Spark内核原理.pptx

Spark内核概述;Spark程序的配置;/01;先来看两张图:

如图所示,提交Spark程序的机器一般一定和Spark集群在同样的网络环境中(Driver频繁和Executors通信),且其配置和普通的Worker一致

;Driver:具有main方法的,初始化SparkContext的程序。Driver运行在提交Spark任务的机器上。Driver部分的代码:SparkConf+SparkContext

SparkContext:创建DAGScheduler,TaskScheduler,SchedulerBackend,在实例化的过程中Register当前程序给Ma

文档评论(0)

1亿VIP精品文档

相关文档