从零开始学hadoop教学2.大数据核心技术.pptxVIP

Hadoop主讲：温春水大纲Hadoop生态系统Hadoop 的起源Hadoop简介HDFSMapReduceHadoop生态系统Hadoop的起源与发展Hadoop的思想之源-Google面对的数据和计算难题 大量的网页怎么存储 搜索算法 GoogleGFSMapReduceBigTableHadoop的起源与发展Doug CuttingHadoop的起源与发展Hadoop最初是由Apache Lucene项目的创始人Doug Cutting开发的文本搜索库。Hadoop源自始于2002年的Apache Nutch项目——一个开源的网络搜索引擎并且也是Lucene项目的一部分 在2004年，Nutch项目也模仿GFS开发了自己的分布式文件系统NDFS（Nutch Distributed File System），也就是HDFS的前身 2004年，谷歌公司又发表了另一篇具有深远影响的论文，阐述了MapReduce分布式编程思想 2005年，Nutch开源实现了谷歌的MapReduceHadoop发展简史到了2006年2月，Nutch中的NDFS和MapReduce开始独立出来，成为Lucene项目的一个子项目，称为Hadoop，同时，Doug Cutting加盟雅虎 2008年1月，Hadoop正式成为Apache顶级项目，Hadoop也逐渐开始被雅虎之外的其他公司使用 2008年4月，Hadoop打破世界纪录，成为最快排序1TB数据的系统，它采用一个由910个节点构成的集群进行运算，排序时间只用了209秒在2009年5月，Hadoop更是把1TB数据排序时间缩短到62秒。Hadoop从此名声大震，迅速发展成为大数据时代最具影响力的开源分布式开发平台，并成为事实上的大数据处理标准 Hadoop的应用现状2007年，雅虎建立了M45——一个包含了4000个处理器和1.5PB容量的Hadoop集群系统Facebook作为全球知名的社交网站，Hadoop是非常理想的选择，Facebook主要将Hadoop平台用于日志处理、推荐系统和数据仓库等方面国内采用Hadoop的公司主要有百度、淘宝、网易、华为、中国移动等，其中，淘宝的Hadoop集群比较大什么是HadoopHadoop Apache开源软件基金会开发运行在大规模普通服务器上用于大数据存储、计算、分析分布式存储系统和分布式运算框架Hadoop有两部分组成分布式文件系统HDFS分布式运算框架MRHadoop的名字Hadoop的意义Hadoop的意义可以利用低成本有效缩短数据的处理时间在大数据中发掘商业价值用Hadoop可以快速搭建自己的分布式存储系统用Hadoop可以快速搭建自己的分布式运算系统具体应用Facebook支付宝历史账单（HBase）Twitter处理tweets，日志等信息（Hadoop）Amazon处理交易记录，推荐系统（Hadoop）Apple siri 处理问答信息（HBase）Hadoop/ /Release 0.23.11/用户名密码认证（安全）/Release 1.2.1/Release 2.7.3/HAHadoop的两大核心分布式存储系统HDFS （Hadoop Distributed File System ） 分布式存储系统 提供了 高可靠性、高扩展性和高吞吐率的数据存储服务 分布式计算框架MapReduce 分布式计算框架 具有 易于编程、高容错性和高扩展性等优点。MR可以独立于HDFS使用 小结Hadoop 的起源Hadoop的简介HDFSMapReduce