checkpoint机制具体实现示例详解.docx

第

checkpoint机制具体实现示例详解

目录checkpoint机制的具体实现BackNode节点冷备份checkpoint的实现

checkpoint机制的具体实现

我们都知道为了优化分布式存储系统中NameNode的重启性能，我们引进了checkpoint机制和FsImage快照，使得FsImage和editslog共同为系统元数据提供持久化功能。

那么我们今天就来学习一下，checkpoint机制具体应该要怎么实现？？

BackNode节点冷备份

NameNode的主要工作时维护系统中文件元数据，并实现其持久化；在每执行一个操作之后，NameNode都要生成一个editslog，最后刷盘（但是不是每生成一条数据就刷盘一次）。

从这我们可以发现，NameNode进程，它需要额外分配出来一个线程，后台线程定时的去进行磁盘IO的操作，其实这个是很影响本地CPU负载的；另外，假设这时候来了很多操作请求，那么系统中将有大量的线程用来来更新内存的文件目录树，这时候肯定是要加锁的了。此时如果系统还要每隔一段时间，耗费比如说几秒钟，甚至几分钟的时间来对文件目录树进行加锁，读取数据，写入本地磁盘；这样就会导致更新文件目录树，和读取文件目录树写入磁盘，它们之间会产生巨大的锁的冲突。

如果上述所有操作都在NameNode上执行的话，就太影响NameNode节点的性能了。

为此，我们需要考虑给系统中增加一个角色BackNode，其实它的功能就有点像HDFS中的SecondaryNameNode。

BackNode是充当于NameNode的一个冷备份的角色，我们可以将checkpoint的操作交给其来执行，这样就可以减轻NameNode这边的性能消耗了。

checkpoint的实现

BackNode在启动的时候会启动一个checkpoint的调度任务：

//调度任务：fsImageCheckpointer

defaultScheduler.schedule(FSImageCheckpoint操作,fsImageCheckpointer,

backupnodeConfig.getCheckpointInterval(),backupnodeConfig.getCheckpointInterval(),TimeUnit.MILLISECONDS);

这是一个定时任务，每隔一段时间就会被执行一次。

下面我们一起来看看checkpoint任务具体需要做些什么？

判断当前系统中的txid和上一次checkpoint时的是否一致，不一致才继续执行根据当前系统中的数据生成FsImage处理掉旧的FsImage

具体代码如下：

*checkpoint任务

@Override

publicvoidrun(){

log.info(BackupNode启动checkpoint后台线程.);

try{

//如果是正在恢复元数据，则直接返回

if(nameSystem.isRecovering()){

log.info(正在恢复元数据...);

return;

//当前maxid和之前记录的maxid相等

if(nameSystem.getMaxTxId()==lastCheckpointTxId){

log.info(EditLog和上次没有变化，不进行checkpoint:[txId={}],lastCheckpointTxId);

return;

//以下讨论的情况是：当前maxid和之前记录的maxid不相等（大于）

//对当前内存中的数据生成快照

FsImagefsImage=nameSystem.getFsImage();

//更新记录中的maxid

lastCheckpointTxId=fsImage.getMaxTxId();

//路径

StringfsImageFile=backupNodeConfig.getFsImageFile(String.valueOf(System.currentTimeMillis()));

log.info(开始执行checkpoint操作:[maxTxId={}],fsImage.getMaxTxId());

//写入FsImage文件

doCheckpoint(fsImage,fs