使用Docker在本地搭建hadoop,spark集群.docVIP

  • 82
  • 0
  • 约8.82千字
  • 约 24页
  • 2018-09-19 发布于河北
  • 举报
使用Docker在本地搭建hadoop,spark集群

使用Docker在本地搭建hadoop,spark集群 使用 Docker 在本地搭建 hadoop,spark 集群 本环境使用的单个宿主主机,而不是跨主机集群,本 spark 集群环境存在的意义可能在 于便于本地开发测试使用,非常轻量级和便捷。这个部署过程,最好在之前有过一定的 hadoop,spark集群部署经验的基础,本文重点在于docker相关的操作,至于hadoop和spark 集群的部署,极力推荐这两个网页: Hadoop 集群://blog.csdn.net/stark_sum ... 24279。 Spark 集群://blog.csdn.net/stark_sum ... 58081 主机系统:ubuntu14.04,64 位,内存 4G,主机名 docker。(实际上是在虚拟机上安装 的) 软件版本:hadoop-2.6.0,jdk1.7.0_79,scala-2.10.5,spark-1.2.0-bin-hadoop2.4, docker 版本:1.9.1,镜像:ubuntu14.04。 搭建环境前调研结果描述: 目前网上在 docker 上部署 spark 的介绍比较简单和没有相关启动使用的操作,部署大 致分为两类情况: 1. 直接在 docker 仓库 pull 下来。这个方法我尝试了一下,不建议使用,首先下载镜 像比较大,2G 多,其次下载之后貌似只能

文档评论(0)

1亿VIP精品文档

相关文档