hadoop分布式文件系统源代码详细解析.pdfVIP

2008-11-04 Hadoop分布式文件系统源代码详细解析（一） 关键字 : 分布式 云计算 经济不行啦，只好潜心研究技术。 Google 的核心竞争技术是它的计算平台。 Google 的大牛们用了下面 5 篇文章，介绍了它们的计算设施。 GoogleCluster ： /archive/googlecluster.html Chubby：/papers/chubby.html GFS：/papers/gfs.html BigTable ：/papers/bigtable.html MapReduce：/papers/mapreduce.html 很快， Apache 上就出现了一个类似的解决方案，目前它们都属于 Apache 的 Hadoop项目，对应的分别是： Chubby--ZooKeeper GFS--HDFS BigTable--HBase MapReduce--Hadoop 目前，基于类似思想的 Open Source 项目还很多，如 Facebook 用于用户分析的 Hive 。 HDFS作为一个分布式文件系统， 是所有这些项目的基础。 分析好 HDFS，有利于了解其他系统。 由于 Hadoop的 HDFS和 MapReduce 是同一个项目，我们就把他们放在一块，进行分析。 下图是 MapReduce整个项目的顶层包图和他们的依赖关系。 Hadoop包之间的依赖关系比较复杂，原因是 HDFS提供了一个分布 式文件系统，该系统提供 API ，可以屏蔽本地文件系统和分布式文件系统，甚至象 Amazon S3这样的在线存储系统。这就造成 了分布式文件系统的实现，或者是分布式文件系统的底层的实现，依赖于某些貌似高层的功能。功能的相互引用，造成了蜘蛛 网型的依赖关系。一个典型的例子就是包 conf ，conf 用于读取系统配置，它依赖于 fs ，主要是读取配置文件的时候，需要使 用文件系统，而部分的文件系统的功能，在包 fs 中被抽象了。 Hadoop的关键部分集中于图中蓝色部分，这也是我们考察的重点。 2008-11-19 Hadoop源代码分析（二） 包的功能分析 下面给出了 Hadoop的包的功能分析。 Package Dependences tool 提供一些命令行工具，如 DistCp，archive mapreduce Hadoop 的 Map/Reduce实现 filecache 提供 HDFS 文件的本地缓存，用于加快 Map/Reduce 的 数据访问速度 fs 文件系统的抽象， 可以理解为支持多种文件系统实现的 统一文件访问接口 hdfs HDFS，Hadoop 的分布式文件系统实现 ipc 一个简单的 IPC 的实现，依赖于 io 提供的编解码功能 参考： /blog/86306 io 表示层。将各种数据编码 /解码，方便于在网络上传输 net 封装部分网络功能，如 DNS ，socket security 用户和用户组信息 conf 系统的配置参数 metrics 系统统计数据的收集，属于网管范畴 util 工具类 record 根据 DDL （数据描述语言）自动生成他们的编解码函数， 目前可以提供 C++和 Java http 基于 Jetty 的 HTTP Servlet，用户通过浏览器可以观察文 件系统的一些状态信息和日志 log 提供 HTTP 访问日志的 HTTP Ser