一个提高机群文件系统性能方法与实现.docVIP

一个提高机群文件系统性能方法与实现 　　[摘要]提出了一个提高机群文件系统性能的方法，将元服务器分级：高级元服务器实现任务分配功能，依据与二级元服务器性能最密切相关的负载信息将任务快速分配给二级元服务器，同时在存储文件时，提出了一种能正确反映各存储节点I/O流量和存储量的策略，对待存文件进行了合理的分配存储。 实验结果表明，本策略提高了系统的性能，缩短了任务执行时间，取得了较好的效果。 　　[关键词]机群系统 元数据服务器 负载平衡 　　中图分类号：TP3 文献标识码：B 文章编号：1002－6908（2007）0520065－02 　　 　　机群文件系是按某种结构连接起来，对存储文件进行统一调度，实现高效并行处理的系统，如何提高资源利用率及缩短任务响应时间是设计机群文件系统的关键所在。 　　目前比较流行的网络文件系统NFS[1]采用集中式服务器结构，容易在某个服务器上产生“热点”数据[2][3]，导致多个服务器之间的任务负载极不平衡，从而影响了整个系统提供服务的性能。 　　本文提出了一种提高机群文件系统性能的方法，将元服务器的任务分配功能和任务处理功能进行分散控制，提高了系统处理任务的速度；在存储文件时，考虑到了存储节点的存储负载及任务负载，实现了整个系统的负载平衡，有效提高了机群文件系统的性能。 　　 　　一、系统结构和基本思想 　　 　　系统分如下几个部分： 　　客户端代理UA(User Agent)：保存一张全局文件信息表，对待存文件进行分割、组装，并负责转发任务请求。 　　高级元服务器PMSA(Primary Meta Server Agent)：是整个系统实现良好负载平衡的关键所在，根据一定的负载平衡算法将客户端传送的写操作请求分配到负载较低的MSA上。 　　二级元服务器MSA(Meta Server Agent)：为待存文件选择存储负载较低的存储节点，同时收集本机的时实负载信息，定期向PMSA报告。MSA对存储节点进行分组管理。 　　存储代理SA(Storage Agent）：主要负责存储节点与客户端之间文件的相互传送。系统的结构如图1所示。 　　 　　 　　 　　二、两级元服务器的结构设计 　　 　　（一）PMSA结构设计 　　PMSA由信息采集模块和任务分配模块组成。 　　信息采集模块主要接收MSA定时发送的时实负载信息，负载算法的实现过程中，负载信息的选择是关键。我们选择了与系统性能最密切相关的三种负载信息参数：CPU利用率(Lcpu)、内存使用率(Lmemory)和正在运行的进程数(Lprocess)作为计算负载权值w(i)的因子。当系统的各个MSA初次投入系统中使用时，可根据其硬件配置情况对每个MSA都设定一个初始负载权值w(i)(通常根据结点的硬件配置定义，配置越低默认值越高)，随着MSA负载的变化对权值进行调整。 　　每个参数都设定一个常量系数 ki ，表示各个负载参数的重要程度，其中Σ ki = 1，这样某MSA的w(i)权值公式描述为： 　　w(i)=k1*Lcpu(i)+k2*Lmemory(i)+k3* Lprocess(i) 　　采集负载信息的周期一般在5～10秒。每采集一次负载信息，都要将各MSA根据计算出来的负载权值w(i)进行排序，形成一个负载权值队列提交给任务分配模块。 　　任务分配模块体现了将元服务器分级的最终目的：将任务分散处理以提高系统的并行处理能力。该模块总是将收到的操作请求依次分配到负载权值队列中的各项。 　　 　　（二）MSA结构设计 　　MSA由热量计算模块、信息采集模块和存储分配模块和组成。 　　本文采用一个时间敏感的文件热量模型[4]，来计算各个存储节点的文件热量值：某文件从来没有被访问过则热量值设为0，每对该文件访问一次热量值加1。热量值同时随周期T衰减，最低减至零。假设用Q(f,t)来表示t时刻文件f的热量值，则某个文件的热量值计算如下 ： 　　(1) 若t时刻之前文件f未被访问过，那么Q (f, t)=0； 　　(2) 若t时刻文件f被访问，那么Q(f, t)=Q(f,t-)+1,其中t-表示t时刻之前的一个极限值； 　　(3) 若从t1到t2 该段时间内，经过n个时间周期T文件f未被访问，那么Q(f,t2)=Q(f,t1)-n； 　　(3)若t2时刻，文件f被访问一次，且文件f上一次被访问的时间为t1，那么由(1),(2)可以推出：Q(f,t2)=Q(f,t1)-n+1。 　　根据文件热量值可以预测：某存储节点在以前的一段时间内被频繁访问，那么它在将来的一段时间内也会被频繁访问，这样总是把文件存放在文件热量值总和最小的节点来保证系统的性能。 　　 　　三、实验结果