- 1、本文档共9页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
江西应用技术职业学院大数据导论
NameNode大数据导论
目录01NameNode的职责02理解editlog和fsimage
管理维护HDFS(管理DataNode上文件Block的均衡,维持副本数量)接收客户端的请求:上传、下载、创建目录等维护了两个非常重要的文件:edits文件(操作日志文件)--记录操作日志(editlog)fsimage文件--HDFS的元信息NameNode的职责
从HDFS目录看如何理解editlog和fsimage?空目录/tmp/test为例mkdirabcrmdirabcmkdirabcrmdirabcmkdirabc最终目录下存在什么?只有:drwxr-xr-x-hadoopsupergroup02018-09-1117:48/abc理解为操作日志editlog理解为:元信息fsimage,即最终剩下什么。
总结:editlog:主要是在NameNode已经启动情况下对HDFS进行的各种更新操作进行记录,HDFS客户端执行所有的写操作都会被记录到editlog中。fsimage:包含HDFS中的所有目录和文件信息(二进制格式)对于目录来说,包含的信息主要有修改时间、访问控制权限等信息。对于文件来说,包含的信息有修改时间、访问时间、访问控制、块大小和组成一个文件块信息等;如何理解editlog和fsimage?
edits记录了HDFS的操作日志都是二进制HDFS提供一个工具:editsviewer日志查看器----XMLedits(editlog)查看editsDemo:hdfsdfs-mkdir/mydemohdfsoev-iedits_inprogress_0000000000000000106-o~/edits.xml
HDFS的元信息:存在fsimage文件就跟edits文件在一起记录:数据块的位置、冗余信息、文件属性等也是一个二进制HDFS提供一个imageviewer----文本或者xmlfsimageDemo:hdfsoiv-ifsimage_0000000000000000005-pXML-ofsimage.xmledits文件和fsimage文件,哪个文件体现了HDFS最新的状态?
江西应用技术职业学院
您可能关注的文档
- 《网络营销》课件——产品独特卖点提炼策略.pptx
- 《网络营销》课件——产品独特卖点提炼方法.pptx
- 《网络营销》课件——竞争对手分析.ppt
- 《网络营销》课件——目标市场选择的原则和依据.pptx
- 《网络营销》课件——企业网络营销平台的构建方式.pptx
- 《信息技术产业基础》课件——2.1.1 5G移动通信技术原理.pptx
- 《信息技术与人工智能》课件——素材:智慧农业平台.pptx
- 《行业数据化运营》课件——1.1.2HDFS基本组成.pptx
- 《行业数据化运营》课件——课件:产品类数据分析与可视化实训.pptx
- 《行业数据化运营》课件——课件:家具行业商业机会挖掘案例.pptx
- 1.4.1集水明排法-尚德励志精技强25课件讲解.pptx
- 2.1 Profibus 基础-1. 现场设备的分类 2.1.3Profibus 系统的配置-1733567101828.pptx
- 2.1.2建设工程招标范围和标准-学习情境二建设工程招24课件讲解.pptx
- 认识劳动 精神-工程造价专业群成功入选双高计划建设高水平专业群 A 档 立足时代传承劳动精神-1733566697289.pptx
- 1.9建筑装饰工程费用组成-装饰方案设计与实81课件讲解.pptx
- 弘扬 工匠精神-工程造价专业群成功入选双高计划建设高水平专业群 A 档 立足时代传承劳动精神-1733575345430.pptx
- 1.2SketchUp应用领域-栏目开62课件讲解.pptx
- 2 0 2 3-建筑施工技术-1733558311636.pptx
- 2.1.4建设工程施工招标的资格审查-学习情境二建设工程招44课件讲解.pptx
- 第四章 建设工程合同法律原理与实务-授课教师 吴超兴-1733553549208.pptx
最近下载
- 基于惯量支撑和一次调频需求的VSG储能单元配置方法.pdf VIP
- 最新《绿色食品 农药使用准则》等58项标准目录.pdf
- 一种基于虚拟同步发电机的储能辅助调频容量配置方法.pdf VIP
- 中国古代民族关系.doc VIP
- 基于惯量支撑和一次调频需求的VSG储能单元配置方法.pptx VIP
- 对数与对数函数(解析版)-2025年高考数学一轮复习(新高考专用).pdf VIP
- Unit1-Unit4易错题 2022-2023学年人教版七年级英语上册 .pdf VIP
- bB正谱世上没有优丽狄茜我怎能活降B正谱子五线谱乐谱曲谱歌谱高清.pdf
- 储能电站惯量支撑和一次调频的功率协调控制装置及方法.pdf VIP
- 行吊安全操作规程培训课件.pptx
文档评论(0)