《大数据平台部署与运维》课件——Zookeeper组件安装与部署.pptxVIP

  • 8
  • 0
  • 约2.33千字
  • 约 19页
  • 2024-05-03 发布于福建
  • 举报

《大数据平台部署与运维》课件——Zookeeper组件安装与部署.pptx

;ApacheZooKeeper是Apache软件基金会的软件项目;它为大型分布式系统中的各种协调问题提供了一个开源的解决方案。

主要是用来解决分布式应用中经常遇到的一些数据管理问题:配置管理、域名服务、分布式同步、集群管理等。

;分布式应用(distributedapplication)指的是应用程序分布在不同计算机上,通过网络来共同完成一项任务的工作方式。

分布式应用可以在给定时间(同时)在网络中的多个系统上运行,通过协调它们以快速有效的方式完成特定任务。通常来说,对于复杂而耗时的任务,非分布式应用(运行在单个系统中)需要几个小时才能完成,而分布式应用通过使用所有系统涉及的计算能力可以在几分钟内完成。通过将分布式应用配置为在更多系统上运行,可以进一步减少完成任务的时间。

分布式应用正在运行的一组系统称为集群,而在集群中运行的每台机器被称为节点。

分布式应用有两部分,Server(服务器)和Client(客户端)应用程序。服务器应用程序实际上是分布式的,并具有通用接口,以便客户端可以连接到集群中的任何服务器并获得相同的结果。客户端应用程序是与分布式应用进行交互的工具。

;ZooKeeper概述;ZooKeeper最早起源于雅虎研究院的一个研究小组。在当时,研究人员发现,在雅虎内部很多大型系统基本都需要依赖一个类似的系统来进行分布式协调,但是这些系统往往都存在分布式单点问题。

所以,雅虎的开发人员就试图开发一个通用的无单点问题的分布式协调框架,以便让开发人员将精力集中在处理业务逻辑上。;ZooKeeper是一种分布式协调服务,用于管理大型主机。

在分布式环境中协调和管理服务是一个复杂的过程。ZooKeeper通过其简单的架构和API解决了这个问题。ZooKeeper允许开发人员专注于核心应用程序逻辑,而不必担心应用程序的分布式特性。

ZooKeeper框架最初是在“Yahoo!上构建的,用于以简单而稳健的方式访问他们的应用程序。后来,ApacheZooKeeper成为Hadoop,HBase和其他分布式框架使用的有组织服务的标准。例如,ApacheHBase使用ZooKeeper跟踪分布式数据的状态。

ZooKeeper的设计目标是将那些复杂且容易出错的分布式一致性服务封装起来,构成一个高效可靠的原语集,并以一系列简单易用的接口提供给用户使用。;命名服务-按名称标识集群中的节点。

配置管理-加入节点的最近的和最新的系统配置信息。

集群管理-实时地在集群和节点状态中加入/退出节点。

选举算法-选举一个节点作为协调目的的leader。

锁定和同步服务-在修改数据的同时锁定数据。此机制可帮助你在连接其他分布式应用程序(如ApacheHBase)时进行自动故障恢复。

高度可靠的数据注册表-即使在一个或几个节点关闭时也可以获得数据。;简单的分布式协调过程

可靠性:具有简单、健壮、良好的性能,如果消息被一台服务器接受,那么它将被所有的服务器接受。

原子性:数据转移完全成功或完全失败,但没有事务是部分的。

顺序一致性:从同一个客户端发起的事务请求,最终将会严格按照其发起顺序被应用到zookeeper中

最终一致性:为客户端展示同一个视图

实时性:ZooKeeper不能保证两个客户端同时得到最新的数据,所以如果需要获取最新数据,在读取数据前会调用sync()接口。(最终一致性)

独立性:各个客户端互不干预;ZooKeeper分布式服务框架是ApacheHadoop的一个子项目,它主要是用来解决分布式应用中经常遇到的一些数据管理问题,如:统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等。

;部分;ZooKeeper概述;ZooKeeper概述;ZooKeeper概述;有一个自己的原语集

一半以上节点还运行ZooKeeper就还能提供服务

配置个数为奇数个

当leader出现问题时,将一个follower切换为leader

;文件系统

通知机制;1.ZooKeeper维护一个类似Linux文件系统的数据结构

2.数据模型为树形结构,每个节点称为znode,可以在创建子znode,也可以存储数据

3.Zookeeper为了保证高吞吐和低延迟,在内存中维护了这个树状的目录结构,这种特性使得Zookeeper不能用于存放大量的数据,每个节点的存放数据上限为1M。

4.每个znode路径唯一

5.znode除了名称、数据以外,还有一套属性:zxid。这套zxid与时间戳对应,记录zxid不同的状态;?有四种类型的znode:?

PERSISTENT-持久节点

文档评论(0)

1亿VIP精品文档

相关文档