一种分布式文件存储系统的探索与应用.docVIP

一种分布式文件存储系统的探索与应用 　　[摘 要]为了提升私有云环境下文件存储系统的可用性，降低拥有成本，通过对比分析提出了基于开源软件MooseFS（MFS）设计的分布式文件存储系统的解决方案。在独立二层网络内，部署六台普通配置的X86机架式服务器，把服务器本地小容量硬盘聚合成一个存储容量为1.7TB的网络硬盘。通过实例验证，该方案能提供优于传统集中式存储的读写性能。通过创新的部署实践，进一步提升了系统的容错能力和易用性。加之利旧企业存量服务器大幅降低了建设运维成本，证明了这一选型能够满足云环境下对文件存储系统高可用、低成本的需求。 　　[关键词]MooseFS；分布式存储；云计算；文件存储；虚拟化 　　[DOI]10.13939/ki.zgsc.2017.12.036 　　当前，企业数据中心仍主要采用以FC-SAN为代表的集中式存储设备。但随着云技术的快速落地，特别是在企业私有云建设中，集中式存储阵列的疲态明显。 　　（1）性能提升代价大。处理性能的提升与容量的增长非线性关系。 　　（2）扩容成本高。专用存储设备换代快，且绑定硬件厂商，只能进行存储的scale-up，扩容费用高。 　　（3）维护成本高。专用存储运维需要设备制造商专门的服务，年维保费用往往很高，设备生命周期总体拥有成本高。 　　（4）单点故障。本文将探索一种类似Google分布式文件系统GFS[1]的分布式存储系统，通过横向分析对比同类技术后择优选型，然后在特定场景部署实例，验证其替代传统集中式文件存储的可行性，解决上述问题。 　　1 分布式文件存储概述及对比 　　“分布式存储系统是大量普通PC服务器通过Internet互联，对外作为一个整体提供存储服务。”[2] 　　2 MFS分布式文件存储概述 　　2.1 MFS功能架构 　　MFS整体架构有四种角色[3]：Managing servers（master servers）、Data servers（chunk servers）、Metadata backup server（s）（metalogger server）、Client。 　　2.2 MFS读写原理 　　3 安装部署MFS实例 　　3.1 集群规划及拓扑 　　在独立二层网络内，部署六台普通配置的X86机架式服务器，服务器本地硬盘在100～400GB。所有服务器通过一台低端二层以太网交换机单链路互联，组合成一个总容量1.7TB的逻辑存储。提供网络文件系统服务，如图1所示。 　　3.2 MFS集群安装 　　有?芍职沧胺绞娇晒┭≡瘢汗俜饺砑?库安装、源码编译安装。本文采用软件库安装方式。集群软硬件配置如表2所示。 　　安装步骤： 　　（1）添加yum key：curl http：///RPM-GPG-KEY-MooseFS /etc/pki/rpm-gpg/RPM-GPG-KEY-MooseFS 　　（2）下载软件库配置文件： 　　curl http：///MooseFS-3-el6.repo /etc/yum.repos.d/MooseFS.repo 　　（3）分别在不同节点安装所需软件包： 　　yum install moosefs-master moosefs-cgi moosefs-chunkserver moosefs-client moosefs-cgiserv 　　（4）启动服务： 　　service moosefs-*** start 　　3.3 集群配置使用 　　（1）修改Chunkserver节点的mfshdd.cfg文件。加入本地文件系统目录作为集群的一个独立的存储空间，如：/data_volumn1、/data_volumn2……MFS会把所有Chunkserver的本地文件目录整合起来，提供统一的存储空间对外服务，容量是所有目录的总和。 　　（2）在Master添加对外服务的存储路径。即设置共享目录。修改mfsexports.cf： 　　* /accesspath rw，alldirs，admin，maproot=0：0，/accesspath为MFS系统中实际存在的数据目录。 　　（3）客户端。MFS提供原生Linux客户端。由于MFS需要工作在用户级的文件系统上，所以需要安装FUSE模块。通过Linux的系统软件库安装即可，yum-y install fuse fuse-libs。然后，加载fuse模块，modprobe fuse。至此，可以挂载MFS存储了，mfsmount /mnt/clientmountpoint/-H 01-S /accesspath。 　　MFS不提供Windows客户端，不支持Windows环境，以成为其扩大影响力的一大短板。