Hadoop平台数据处理流程总览.ppt

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
CDH4.1实战系列 数据处理流程图 ETL: Extraction-Transformation-Loading的缩写,即数据提取、数据处理和load HDFS + mapreduce Kafka Storm Message Queue 写DB,持久化 业务系统 Js框架(pvik),收集cookies数据拼成结构化日志,写kafka,封装kafka 的producer 封装kafka的consumer Namenode : 管理HDFS文件系统,block 在什么位置。。。 元数据,又称镜像文件 离线处理平台: 场景 传统方式如关系数据库存储过程 特点:计算和展示分离 MapReduce 高延迟 : 处理逻辑复杂、大数据 实时平台: Hbase 文件级索引,牺牲统计分析功能,max都没有,不基于MapReduce Storm流计算 毫秒,逐行处理,及时返回最新结果,适合加减乘除操作,做不了分析工作 欢迎访问我们的官方网站

文档评论(0)

a13355589 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档