hadoop的安装与配置总结.docVIP

Hadoop在Linux的上安装与配置步骤 安装与配置 在linux安装Hadoop之前，需要先安装两个程序： Sun公司的java-1.6 SSH 安装JDK 安装JDK是一个很简单的过程 （1）下载安装JDK 确保可以连接到互联网，输入命令： sudo apt-get install sun-java6-jdk 输入密码，确认，就可以安装java了 （2）配置环境变量： 输入命令： sudo gedit /etc/profile 输入密码，打开profile文件 在最下面输入如下内容： #set Java Environment export JAVA_HOME= （你的java安装位置，一般为/usr/lib/jvm/java-6-sun） export CLASSPATH=.:$JAVA_HOME/lib:$CLASSPATH export PATH=$JAVA_HOME/:$PATH （3）验证java是否安装成功 输入命令： java –version 查看信息 java version 1.6.0_14 Java(TM) SE Runtime Environment (build 1.6.0_14-b08) Java HotSpot(TM) Server VM (build 14.0-b16, mixed mode) 配置ssh免密码登录 同样的，以ubuntu为例，用户名为u： （1）确认已经连接上互联网，输入命令：sudo apt-get install ssh （2）配置可以无密码登陆本机: 首先查看在u用户下是否存在.ssh文件夹（注意ssh前面有“.”，这是一个隐藏文件夹），输入命令： ls –a /home/u。 接下来，输入命令： ssh-keygen -t dsa -P –f ~/.ssh/id_dsa 这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是ssh的一对私钥和公钥，类似于钥匙及锁，把id_da.pub（公钥）追加到授权的key里面去， 输入命令： cat ~/.ssh/id_dsa.pub ~/.ssh/authorized_keys 这段话的意思是把公钥加入到用于认证的公钥文件中，这里authorized_keys是用于认证的公钥文件。 至此无密码登陆本机以安装完成。 （3）验证ssh已安装成功及无密码登陆本机 输入命令： ssh –version 显示结果： OpenSSH_5.1p1 Debian-6ubuntu2, OpenSSL 0.9.8g 19 Oct 2007 Bad escape character rsion. 这显示了ssh已经安装成功 输入命令： ssh localhost 会有如下显示： The authenticity of host localhost (::1) cant be established. RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77. Are you sure you want to continue connecting (yes/no)? yes Warning: Permanently added localhost (RSA) to the list of known hosts. Linux master 2.6.31-14-generic #48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686 To access official Ubuntu documentation, please visit: / Last login: Mon Oct 18 17:12:40 2010 from master admin@hadoop:~$ 如上显示，说明已经安装成功，第一次登录时会询问你是否继续链接，输入yes即可以进入。 实际上，在hadoop的安装过程中，是否无密码登陆不是必须的，但是如果不配置无密码登陆的话，每次启动hadoop，都需要输入密码以登陆到每台daotanode，考虑到一般的hadoop集群动辄数十数百台机器，因此一般来说都会配置ssh的无密码登陆。 安装运行Hadoop 介绍hadoop的安装之前，介绍一下hadoop对各个节点的角色定义。 Hadoop按三类分别将主机划分为两种角色，首先，最基本的就是master和slave，主人与奴隶；第二，按hdfs的角度，将主机划分为namenode和datanode（在分布式文件系统中，目录的管理很重要，管理目录的就相当于主人，而namenode就是目录管理者）；第三，按mapreduc