《大数据离线分析技术》课件——Standalone运行机制.pptxVIP

Standalone运行机制;Standalone运行机制概述;/01;Standalone运行机制即独立机制，自带完整的服务，可单独部署到一个集群中，无需依赖任何其他资源管理系统。

借鉴Spark开发模式，我们可以得到一种开发新型计算框架的一般思路：先设计出它的standalone模式，为了快速开发，起初不需要考虑服务（比如master/slave）的容错性，之后再开发相应的wrapper，将stanlone模式下的服务原封不动的部署到资源管理系统yarn或者mesos上，由资源管理系统负责服务本身的容错。

;目前Spark在standalone模式下是没有任何单点故障问题的，这是借助zookeeper实现的，思想类似于Hbasemaster单点故障解决方案。将Sparkstandalone与MapReduce比较，会发现它们两个在架构上是完全一致的：?

都是由master/slaves服务组成的，且起初master均存在单点故障，后来均通过zookeeper解决（ApacheMRv1的JobTracker仍存在单点问题，但CDH版本得到了解决）；?

;各个节点上的资源被抽象成粗粒度的slot，有多少slot就能同时运行多少task。不同的是，MapReduce将slot分为mapslot和reduceslot，它们分别只能供M