分布式存储MFS安装部署技术白皮书.探究.docxVIP

分布式存储MFS安装部署技术白皮书云计算部2014年3月平台搭建平台规划IP作用备注01master servermfs管理节点02chunk server，Metalogger servermfs存储节点，mfs元数据日志服务节点03chunk server，mfs client，vsftp，sambamfs存储节点，mfs客户端，ftp服务端，samba共享04mfs client，owncloudmfs客户端，云盘系统服务端一台mfs管理节点，2台mfs存储节点分别挂载1T存储，其中1台上搭建元数据日志服务节点，另一台安装mfs客户端与搭建ftp和samba共享链接，最后一台服务器安装mfs客户端，用于链接云盘系统服务端。拓扑结构MFS系统安装部署MFS概述MFS特点高可靠性（数据库可以镜像到多个计算机）轻松动态扩容可以设置删除文件的空间回收时间优越的性能MFS 工作原理和设计架构角色角色作用管理服务器managing server (master)负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复，多节点拷贝。元数据日志服务器Metalogger server（Metalogger）负责备份master 服务器的变化日志文件，文件类型为changelog_ml.*.mfs ，以便于在master server 出问题的时候接替其进行工作。数据存储服务器data servers (chunkservers)负责连接管理服务器,听从管理服务器调度,提供存储空间，并为客户提供数据传输。客户机挂载使用client computers通过fuse 内核接口挂接远程管理服务器上所管理的数据存储服务器,.看起来共享的文件系统和本地unix 文件系统使用一样的效果.官方的网络示意图是这样的：MFS读处理过程：?1、客户端向管理服务器（master）发出读请求。?2、管理服务器（master）把所需数据存放的位置（Chunk Server的IP地址和chunk编号）告知客户端。?3、客户端向已知的数据存储服务器（Chunk Server）请求发送数据。?4、数据存储服务器（Chunk Server）向客户端发送数据。特点：数据传输并不经过元数据服务器，这样既减轻元数据服务器的压力，也同时增大了整个系统的吞吐能力。在多个客户端读取数据时，读取点会被分散到不同的数据服务器。MFS写处理过程：1、客户端向元数据服务器发送写入请求。2、元数据服务器与Chunk Server进行交互（只有当所需的分块Chunks存在的时候才进行这个交互）：a、元数据服务器只是在某些服务器创建新的分块chunks。b、Chunk Servers告知元数据服务器，步骤a已经操作成功。3、元数据服务器告知客户端，你可以在哪个Chunk Server的哪些Chunks写入数据。4、客户端向指定的Chunk Server写入数据5、Chunk Server与其他Chunk Server进行数据同步。6、Chunk Server之间同步成功。7、Chunk Server告知客户端数据写入成功。8、客户端告知元数据服务器本次写入完毕。MFS安装部署Master Server安装下载解压#cd /usr/src#wget /project/moosefs/moosefs/1.6.26/mfs-1.6.26.tar.gz#tar xzf mfs-1.6.26.tar.gz配置编译参数#useraddmfs –s /sbin/nologin#groupaddmfs#useradd -g mfsmfs#cd mfs-1.6.26/#./configure --prefix=/usr/local/mfs --with-default-user=mfs --with-default-group=mfs --disable-mfsmount --disable-mfschunkserver编译并安装#make#make install配置文件#cd /usr/local/mfs/etc#cpmfsmaster.cfg.distmfsmaster.cfg#cpmfsexports.cfg.distmfsexports.cfg更改配置文件mfsexports.cfg/24 / rw,alldirs,maproot=0启动前准备#cd /usr/local/mfs/var/mfs#cpmetadata.mfs.emptymetadata.mfs#echo 01mfsmaster /etc/hosts启动mfsmaster#/usr/local/mfs/sbin/mfsmaster startHost文件添加#vi /etc/hosts加入以下几行01mfsmaster02 mfs