- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
(三):持久化存储和容错
来源:http://www .infoq .com/cn/articles/analyse-mesos-part-03
在深⼊浅出Mesos系列的第⼀篇⽂章中,我对相关的技术做了简要概述,在第⼆篇⽂
章中,我深⼊ 绍了Mesos的架构。完成第⼆篇⽂章之后,我本想开始着⼿写⼀篇
Mesos如何处理资源分配的⽂章。不过,我收到⼀些读者的反馈,于是决定在谈资源
分配之前,先完成这篇关于Mesos持久化存储和容错的⽂章。
持久化存储的问题
正如我在前⽂中讨论过的,使⽤Mesos的主要好处是可以在同⼀组计算节点集合上运
⾏多种类型的应⽤程序 (调度以及通过Framework初始化任务)。这些任务使⽤隔离
模块 (⽬前是某些类型的容器技术)从实际节点中抽象出来,以便它们可以根据需要
在不同的节点上移动和重新启动。
由此我们会思考⼀个问题,Mesos是如何处理持久化存储的呢?如果我在运⾏⼀个数
据库作业,Mesos如何确保当任务被调度时,分配的节点可以访问其所需的数据?如
图所⽰,在Hindman的⽰例中,使⽤Hadoop⽂件系统 (HDFS )作为Mesos的持久层,
这是HDFS常见的使⽤⽅式,也是Mesos的执⾏器传递分配指定任务的配置数据给
Slave经常使⽤的⽅式。实际上,Mesos的持久化存储可以使⽤多种类型的⽂件系统,
HDFS只是其中之⼀,但也是Mesos最经常使⽤的,它使得Mesos具备了与⾼性能计算
的亲缘关系。其实Mesos可以有多种选择来处理持久化存储的问题:
分布式⽂件系统。如上所述,Mesos可以使⽤DFS (⽐如HDFS或者 ustre )来
保证数据可以被Mesos集群中的每个节点访问。这种⽅式的缺点是会有⽹络延
迟,对于某些应⽤程序来说,这样的⽹络⽂件系统或许并不适合。
使⽤数据存储复制的本地⽂件系统。另⼀种⽅法是利⽤应⽤程序级别的复制来
确保数据可被多个节点访问。提供数据存储复制的应⽤程序可以是NoSQ 数据
库,⽐如Cassandra和MongoDB 。这种⽅式的优点是不再需要考虑⽹络延迟问
题。缺点是必须配置Mesos ,使特定的任务只运⾏在持有复制数据的节点上,
因为你不会希望数据中⼼的所有节点都复制相同的数据。为此,可以使⽤⼀个
Framework ,静态地为其预留特定的节点作为复制数据的存储。
不使⽤复制的本地⽂件系统。也可以将持久化数据存储在指定节点的⽂件系统
上,并且将该节点预留给指定的应⽤程序。和前⾯的选择⼀样,可以静态地为
指定应⽤程序预留节点,但此时只能预留给单个节点⽽不是节点集合。后⾯两
种显然不是理想的选择,因为实质上都需要创建静态分区。然⽽,在不允许延
时或者应⽤程序不能复制它的数据存储等特殊情况下,我们需要这样的选择。
Mesos项⽬还在发展中,它会定期增加新功能。现在我已经发现了两个可以帮助解决
持久化存储问题的新特性:
态预留。Framework可以使⽤这个功能框架保留指定的资源,⽐如持久化存
储,以便在需要启动另⼀个任务时,资源邀约只会发送给那个Framework 。这
可以在单节点和节点集合中结合使⽤Framework配置,访问永久化数据存储。
关于这个建议的功能的更多信息可以从此处获得。
持久化卷。该功能可以创建⼀个卷,作为Slave节点上任务的⼀部分被启动,即
使在任务完成后其持久化依然存在。Mesos为需要访问相同的数据后续任务,
提供在可以访问该持久化卷的节点集合上相同的Framework来初始化。关于这
个建议的功能的更多信息可以从此处获得。
容错
接下来,我们来谈谈Mesos在其协议栈上是如何提供容错能⼒的。恕我直⾔,Mesos的
优势之⼀便是将容错设计到架构之中,并以可扩展的分布式系统的⽅式来实现。
Master。故障处理机制和特定的架构设计实现了Master 的容错。
⾸先,Mesos决定使⽤热备份 (hot-standby )设计来实现Master节点集合。正如
Tomas Barton对上图的说明,⼀个Master节点与多个备⽤ (standby )节点运⾏
您可能关注的文档
- !3数据库的启动关闭和创建.ppt
- (2版)数据库实验11 存储过程触发器与答案.doc
- (3.10,3.17)第二节 INTERNET接入技术.ppt
- (4.4)事项服务器与监视器使用说明.doc
- (IBM)Eclipse的使用简介与插件开发.pdf
- (Word2003版)笔记本电脑及台式电脑在家里没有装网也可以上网(真后悔现在才看到...,因为我安了网线).doc
- (本)计算机组成原理知识点与复习题.doc
- (必修三专题八-4)和时俱进的文学艺术(全国精品课件集锦).ppt
- (带答案版)化工仪表与自动化习题.doc
- (第2节)VFP概述.ppt
- 湖南省衡阳市第八中学2026届高三上学期第一次月考物理(原卷版).doc
- 浙江省普通高中尖峰联盟2026届高三上学期10月联考英语(原卷版).doc
- 四川省绵阳市南山中学实验学校2026届高三上学期10月月考英语(原卷版).doc
- 湖南省衡阳市第八中学2026届高三上学期第二次月考历史 Word版含解析.doc
- 福建中考物理5年(2021-2025)真题分类汇编:专题09 功和机械能(原卷版).doc
- 福建中考物理5年(2021-2025)真题分类汇编:专题10 内能及其利用(原卷版).doc
- 福建中考物理5年(2021-2025)真题分类汇编:专题07 压强(原卷版).doc
- 福建中考物理5年(2021-2025)真题分类汇编:专题01 机械运动(原卷版).doc
- 福建中考物理5年(2021-2025)真题分类汇编:专题02 声现象(解析版).doc
- 福建中考物理5年(2021-2025)真题分类汇编:专题02 声现象(原卷版).doc
最近下载
- 2024年全球及中国天然超氧化物歧化酶行业头部企业市场占有率及排名调研报告.docx
- 初中英语固定搭配大全.pdf VIP
- 电力系统500kV串补保护的配置及动作逻辑原理详解培训.pptx VIP
- DB42_T 268-2012 蒸压加气混凝土砌块工程技术规程.docx
- 机电设备安装与维修专业人才培养方案.docx VIP
- 成人外周动脉导管留置与维护.pdf VIP
- 四宫格四阶数独学习材料包(完整版)-附带讲解和练习-适合零基础.pdf VIP
- 220kV升压站SVG设备安装.docx VIP
- 汽车灯光系统检修教学能力比赛教案.pdf
- 2023水电工程地下建筑物安全监测技术规范.docx VIP
原创力文档


文档评论(0)