Hadoop安装配置与部署.pptx

Hadoop安装、配置和部署 Hadoop安装之前的预备知识1Hadoop集群的部署与使用4安装Linux虚拟机2Hadoop的安装与使用3 1.1 Hadoop安装之前的预备知识（一）Linux的选择（1）选择哪个Linux发行版？在Linux系统各个发行版中，CentOS系统和Ubuntu系统在服务端和桌面端使用占比最高，所以建议使用CentOS 或Ubuntu在学习Hadoop方面，推荐使用Ubuntu操作系统（2）选择32位还是64位？如果内存大于4G，那么建议选择64位系统版本的Linux 1.1 Hadoop安装之前的预备知识（二）系统安装方式：选择虚拟机安装还是双系统安装建议电脑比较新或者配置内存4G以上的电脑可以选择虚拟机安装电脑较旧或配置内存小于等于4G的电脑强烈建议选择双系统安装，否则，在配置较低的计算机上运行LInux虚拟机，系统运行速度会非常慢 1.1 Hadoop安装之前的预备知识（三）关于Linux的一些基础知识Shell是指“提供使用者使用界面”的软件（命令解析器），类似于DOS下的command和后来的cmd.exe。它接收用户命令，然后调用相应的应用程序sudo命令sudo是ubuntu中一种权限管理机制，管理员可以授权给一些普通用户去执行一些需要root权限执行的操作。当使用sudo命令时，就需要输入您当前用户的密码输入密码在Linux的终端中输入密码，终端是不会显示任何你当前输入的密码，也不会提示你已经输入了多少字符密码，读者不要误以为键盘没有响应输入法中英文切换linux中英文的切换方式是使用键盘“shift”键来切换，也可以点击顶部菜单的输入法按钮进行切换。Ubuntu自带的Sunpinyin中文输入法已经足够读者使用Ubuntu终端复制粘贴快捷键在Ubuntu终端窗口中，复制粘贴的快捷键需要加上 shift，即粘贴是 ctrl+shift+v 1.1 Hadoop安装之前的预备知识（四）Hadoop安装方式单机模式：Hadoop 默认模式为非分布式模式（本地模式），无需进行其他配置即可运行。非分布式即单 Java 进程，方便进行调试伪分布式模式：Hadoop 可以在单节点上以伪分布式的方式运行，Hadoop 进程以分离的 Java 进程来运行，节点既作为 NameNode 也作为 DataNode，同时，读取的是 HDFS 中的文件分布式模式：使用多个节点构成集群环境来运行Hadoop（多个节点），使用docker安装/或者在实验室搭建3到5个集群（1）在集群上分布式安装Hadoop（2）使用Docker搭建Hadoop分布式集群。 1.2 安装Linux虚拟机一、材料和工具1、下载VMware虚拟机软件2. 下载Ubuntu LTS 14.04 ISO映像文件二、步骤（一）确认系统版本如果选择的系统是64位Ubuntu系统，那么在安装虚拟机前，我们还要进入BIOS开启CPU的虚拟化 1.2 安装Linux虚拟机(二)安装前的准备1.打开WMware，点击“创建”按钮，创建一个虚拟机2.给虚拟机命名，选择操作系统，版本3.选择内存大小，这里设置的1024M4.创建虚拟硬盘5.选择虚拟硬盘文件类型VDI6.虚拟硬盘选择动态分配7.选择文件存储的位置和容量大小8.点击创建 1.2 安装Linux虚拟机(三)安装Ubuntu 1.3 Hadoop的安装与使用（单机/伪分布式）Hadoop基本安装配置主要包括以下几个步骤：创建Hadoop用户SSH登录权限设置安装Java环境单机安装配置伪分布式安装配置 创建Hadoop用户如果安装 Ubuntu 的时候不是用的 “hadoop” 用户，那么需要增加一个名为 hadoop 的用户首先按?ctrl+alt+t?打开终端窗口，输入如下命令创建新用户 :$ sudo useradd –m hadoop –s /bin/bash上面这条命令创建了可以登陆的 hadoop 用户，并使用 /bin/bash 作为 shell接着使用如下命令设置密码，可简单设置为 hadoop，按提示输入两次密码：$ sudo passwd hadoop可为 hadoop 用户增加管理员权限，方便部署，避免一些对新手来说比较棘手的权限问题：$ sudo adduser hadoop sudo SSH登录权限设置配置SSH的原因：Hadoop名称节点（NameNode）需要启动集群中所有机器的Hadoop守护进程，这个过程需要通过SSH登录来实现。Hadoop并没有提供SSH输入密码登录的形式，因此，为了能够顺利登录每台机器，需要将所有机器配置为名称节点可以无密码登录它们SSH是什么？SSH?为?Secure Shell?的缩写，是建立在应用层和传输层基础上的安全协议。S