- 1、本文档共46页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
编程,语言,java,web,程序,软件,C++,C#,互联网,网络,电脑,hadoop,数据链,数据
Hadoop数据分析平台 第17周
2013.08.03
DATAGURU专业数据分析网站黄志洪
法律声明
【声明】本视频和幻灯片为炼数成金网络课程的教
学资料,所有资料只能在课程内使用,不得在课
程以外范围散播,违者将可能被追究法律和经济
责任。
课程详情访问炼数成金培训网站
2013.08.03
DATAGURU专业数据分析网站黄志洪 2
完全分布式模式的安装和配置
配置hosts文件
建立hadoop运行账号
配置ssh免密码连入
下载并解压hadoop安装包
配置namenode ,修改site文件
配置hadoop-env.sh
配置masters和slaves文件
向各节点复制hadoop
格式化namenode
启动hadoop
用jps 检验各后台进程是否成功启动
2013.08.03
DATAGURU专业数据分析网站黄志洪 3
Hadoop大集群实施
设备选型
是否使用虚拟机?
使用DNS代替hosts文件
使用NFS实现密钥共享
利用脚本复制hadoop——awk技巧
2013.08.03
DATAGURU专业数据分析网站黄志洪 4
DNS
Linux下使用bind
2013.08.03
DATAGURU专业数据分析网站黄志洪 5
NFS
网络文件系统
《Hadoop权威指南》第266页
2013.08.03
DATAGURU专业数据分析网站黄志洪 6
用awk生成脚本的技巧
强大的武器:awk
怎样使用awk
生成脚本的技巧
2013.08.03
DATAGURU专业数据分析网站黄志洪 7
Hadoop集群在互联网企业的应用
京东商城
百度
阿里巴巴
2013.08.03
DATAGURU专业数据分析网站黄志洪 8
京东商城
源起:为POP商家进行日志分析服务
2013.08.03
DATAGURU专业数据分析网站黄志洪 9
瓶颈
性能瓶颈:采用Oracle RAC (2节点),IBM小型机,由
于数据量极大,无法满足时效要求
成本瓶颈:小型机再进行高配和节点扩展,价格太贵
2013.08.03
DATAGURU专业数据分析网站黄志洪 10
Hadoop集群作为解决方案
20多个节点的Hadoop集群
数据定时从收集服务器装载到Hadoop集群(周期为天级或小时级)
数据经
您可能关注的文档
- 2.x下HDFS新特性,高可用,联邦,快照Hadoop_v3_04.pdf
- Hadoop_v3_03分布式文件系统HDFS原理与操作,HDFS API编程.pdf
- Hadoop的源起与体系介绍Hadoop_v3_01.pdf
- hadoop数据分析平台-Hadoop_v3_06.pdf
- hadoop数据分析平台-Hadoop_v3_07.pdf
- hadoop数据分析平台-Hadoop_v3_08.pdf
- hadoop数据分析平台-Hadoop_v3_9.pdf
- hadoop数据分析平台-Hadoop_v3_10.pdf
- hadoop数据分析平台-Hadoop_v3_11.pdf
- hadoop数据分析平台-Hadoop_v3_12.pdf
- 国际标准 IEC 61169-47:2015 EN Radio-frequency connectors - Part 47: Sectional specification for radio-frequency coaxial connectors with clamp coupling, typically for use in 75 Ω cable networks (type F-Quick) 无线电频率连接器 - 第47部分:用于无线电频率同轴连接器的部分规范,.pdf
- 国际标准 IEC 61158-5-17:2007 EN 工业通信网络 - 现场总线规范 - 第5-17部分:应用层服务定义 - 类型17元素 Industrial communication networks - Fieldbus specifications - Part 5-17: Application layer service definition - Type 17 elements.pdf
- 国际标准 IEC 61158-5-17:2007 EN Industrial communication networks - Fieldbus specifications - Part 5-17: Application layer service definition - Type 17 elements 工业通信网络 - 现场总线规范 - 第5-17部分:应用层服务定义 - 类型17元素.pdf
- 国际标准 IEC 60939-2-2:2004 EN_D 完整抑制无线电干扰滤波器单元-第2-2部分:空白详细规范-用于抑制电磁干扰的被动滤波器单元-仅需进行安全测试的滤波器(安全测试) Complete filter units for radio interference suppression - Part 2-2: Blank detail specification - Passive filter uits for electromagnetic interference .pdf
- 国际标准 IEC 60939-2-2:2004 EN_D Complete filter units for radio interference suppression - Part 2-2: Blank detail specification - Passive filter uits for electromagnetic interference suppression - Filters for which safety tests are required (safety.pdf
- 国际标准 IEC 60670-23:2006 EN-FR Boxes and enclosures for electrical accessories for household and similar fixed electrical installations - Part 23: Particular requirements for floor boxes and enclosures 家用和类似固定电气安装用电器配件的盒子与封闭装置——第23部分:地板箱和封闭装置的要求.pdf
- 国际标准 IEC 60670-23:2006 EN-FR 家用和类似固定电气安装用电器配件的盒子与封闭装置——第23部分:地板箱和封闭装置的要求 Boxes and enclosures for electrical accessories for household and similar fixed electrical installations - Part 23: Particular requirements for floor boxes and enclosures.pdf
- 2024版完整的货物运输合同书.doc
- 2024版无财产的离婚协议书书模板.doc
- 2024版委托融资租赁合同书书.doc
文档评论(0)