- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
Hadoop、ZooKeeper及HBase的安装配置过程(绝对可用)
这两天正在为公司配置一个Hadoop集群(以及HBase),作为存储及计算海量数据的平台。现在将安装的过程贴出来,仅供参考。
Hadoop的配置
集群的物理配置情况
集群IP: 13 ~ 18
(hostname分别为master、slave0、slave1、slave2、slave3、slave4)
用户名/密码:root/123456
其中,master作为jobtracker和namenode,其余节点作为tasktracker和datanode
节点角色分配
修改每个节点的 /etc/hosts文件,追加如下内容
13 master
14 slave0
15 slave1
16 slave2
17 slave3
18 slave4
再修改每个节点自己的hostname,如对于master,将其/etc/sysconfig/network文件改为
? ? NETWORKING=yes
? ? HOSTNAME=master
然后,运行
? ? hostname master
退出,再进入输入env | grep hostname发现修改生效
为每个节点设置无密码ssh登录
1、 在master节点上运行
? ? ssh-keygen –t rsa
2、 在master节点上,首先
? ? cat ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys
然后
??? chmod 644 ~/.ssh/authorized_keys??
3、将master节点上的~/.ssh/id_rsa.pub文件分别scp到每个slave节点上,如
? ? scp ~/.ssh/id_rsa.pub root@slave0:/home
4、 登录每个slave节点,运行(以slave0为例)
? ? ?cat /home/id_rsa.pub ~/.ssh/authorized_keys
5、 修改文件权限
? ? chmod 600 ~/.ssh/authorized_keys
6、从第3步开始循环,直至配置好每个slave节点
下载Hadoop
下载hadoop-1.1.2,放在/home/LTE目录下,用命令 tar zxvf hadoop-1.1.2.tar.gz解压,在/home/LTE下生成目录hadoop-1.1.2
修改HADOOP的配置文件
修改conf/core-site.xml文件
configuration
???property
???????name/name
???????valuehdfs://master:54310/value
???/property
???property
???????namehadoop.tmp.dir/name
???????value/home/LTE/hadoop/tmp/value
???/property
/configuration
在conf/hadoop-env.xml文件里增加
? ?export JAVA_HOME=/usr/local/java/jdk1.6.0_32
修改conf/hdfs-site.xml文件:
configuration
???property
???????namedfs.replication/name
???????value2/value
???/property
???property
???????namedfs.data.dir/name
???????value/home/LTE/hadoop/data/value
???/property
???property
???????name.dir/name
???????value/home/LTE/hadoop/name/value
??? /property
/configuration
? ? 修改conf/mapred-site.xml文件:? ?
configuration
???property
???????namemapred.job.tracker/name
???????valuemaster:9001/value
???/property
???property
???????namemapred.local.dir/name
???????value/home/LTE/hadoop/temp/value
???/property
/configuration
conf/masters文件
master
conf/slaves文件
slave0
sla
您可能关注的文档
最近下载
- 马克思主义政治经济学概论(第二版)教学大纲.pdf VIP
- 幼儿园大班拼音《单韵母拼读》PPT课件.pptx VIP
- 八纲辨证(中医).pptx VIP
- 中英文对照财务报表模板.xlsx VIP
- ANSI TIA-942-2005 数据中心电信基础设施标准 中文.doc VIP
- 幼儿园大班拼音活动《复韵母ai ei ui》PPT课件.pptx VIP
- SR220C电气说明书_20070822.doc VIP
- 肺结核诊断和治疗指引 - 中华医学会呼吸病学分会.doc VIP
- 东风本田-思威(CR-V)-2019款 240TURBO都市版-DHW6462R1CSE-思威(CR-V)用户手册(2018款汽油版).pdf VIP
- 现代海洋牧场装备技术.pdf VIP
原创力文档


文档评论(0)