Hadoop体系架构概述精梳版.pptVIP

优选 Hadoop体系架构概述 补充上比较完美的参考资料 优选 * Hadoop体系架构 HDFS简介 Map/Reduce模型 分布式列式数据库Hbase 优选 * Hadoop概述 基于Apache基金会下的一个开源项目，致力于开发一个可靠的、大规模的分布式计算框架 用户可采用简单的计算模型在计算机集群下对大规模的数据进行分布式处理 设计理念之一是扩展单一的服务器为成千上万机器的集群，且集群中每一个机器同时提供本地计算力和存储力 Hadoop框架是在应用层检测和处理硬件失效问题，而不是依赖于硬件自身来维持高可用性。 在Hadoop框架集群中硬件失效被认为是一种常态，集群的高可用性服务是建立在整个集群之上的 优选 * 分布式文件系统（Hadoop Distributed File System，HDFS） 并行计算模型（Map/Reduce） 列式数据库（HBase） 数据仓库（Hive） 数据分析语言（Pig） 数据格式转化工具（Sqoop） 协同工作系统（Zookeeper） 数据序列化系统（Avro） HDFS (Hadoop Distributed File System) Map/Reduce (Job Scheduling/Execution System) Hbase (Column Database) Pig (Data Flow) Hive (SQL) Sqoop ETL Tools BI Reporting RDBMS AvroSerialization) Zookeeper(Coordination) Hadoop整体框架 优选 * Hadoop整体框架下特点 Hadoop主要在多节点集群环境下 以数据存储为基础 最大限度兼容结构化数据格式 以数据处理为目的 且其数据操作技术多样化 优选 * Hadoop体系架构 HDFS简介 Map/Reduce模型 分布式列式数据库Hbase 优选 * HDFS概述-----基本特征 基于商用硬件环境 HDFS具有高容错性，并且被部署在廉价的硬件之上 HDFS向应用程序提供高的数据吞吐访问，适合于需要处理大规模海量数据集的应用 HDFS遵循部分POSIX协议要求，可以确保应用程序以流的方式访问文件系统数据 优选 * HDFS的对现实应用环境的假设及其目标 硬件失效 流式数据访问 海量数据集 追加写入及文件同步 “移动计算比移动数据的代价小” 跨异构硬件和软件平台的可移植性 优选 * HDFS架构 主从（Master/Slave）体系结构 只含有一个NameNode主服务节点这个节点管理文件系统中的命名空间和调度客服端对文件的访问 通常一个机器就是一个DataNode数据节点，DataNode管理本节点上数据的存储 在HDFS内部，一个文件被分割为一个或多个数据块，并且这些数据块被存储在一批DataNode中。 NameNode执行文件系统中命名空间的操作(打开、关闭、重命名文件和目录)，NameNode需要执行数据块到DataNode映射的决策 DataNode负责响应来自客户端的文件读写要求，也要负责执行来自NameNode的关于数据块创建、删除和冗余存储的指令 Client MetaData ops Write NameNode MetaData(Name, replicas, …) Client DataNodes DataNodes Block ops Read Blockss Replication NameNode同DataNode都是可以架设在普通商品机上，一个典型的HDFS集群中部署一个专用机做为NameNode，其余的机器部署为DataNode。虽然，这个体系结构并不排除把一个机器做为多个DataNode节点，但是这样的情况在实际部署中很少发生。单NameNode结构极大的简化了集群的系统结构，NameNode主管并且存储所有的HDFS的元数据（MetaData），系统中用户数据绝不会流过NameNode节点。 优选 * Hadoop体系架构 HDFS简介 Map/Reduce模型 分布式列式数据库Hbase 优选 * Map/Reduce简介 一种用于在大型商用硬件集群中（成千上万的节点）对海量数据（多个兆兆字节数据集）实施可靠的、高容错的并行计算的软件系统 一个最先由Google提出的分布式计算软件构架 基本原理