小议分布式文件系统设计与实现.docVIP

小议分布式文件系统设计与实现 1、为了满足文件存储的新的要求（大容量、高可靠性、高可用性、高性能、动态可扩展性、易维护性），设计一种好的分布式文件系统越来越成为需要。分布式文件系统使得分布在多个节点上的文件如同位于网络上的一个位置便于动态扩展和维护。 由于分布式文件系统中的数据可能来自很多不同的节点，它所管理的数据也可能存储在不同的节点上，这使得分布式文件系统中有很多设计和实现与本地文件系统存在巨大的差别。下面主要讲述分布式文件系统设计和实现中所要面对和解决的主要问题[2]。 2软件总体结构 设计一个好的分布式文件系统是集群存储的关键。我们设计的分布式文件系统通过统一名字空间管理使得分布在多个服务器上的文件如同位于网络上的一个位置便于动态扩展和维护。 我们把整个系统主要划分客户端与服务器端两部分。客户端包括MVFS文件系统，CC模块（ClientCache），CNS模块（ClientNameSpace）,CN模块（ClientNetwork）。服务器端包括SC模块（ServerCache），SNS模块（ServerNameSpace）,SN模块（ServerNetwork）。应用程序的I/O请求首先送给MVFS文件系统，MVFS文件系统根据文件句柄获得本文件系统的全局文件名并把对文件的访问转换为对CC的访问。CC收到请求之后，如果在Cache中没有发现对应的数据，则将请求发给CNS层，CNS层根据全局文件名获得该文件所在的服务器。最终通过CN层将命令发给服务器。服务器端SN层通过网络接待命令后，将命令传递给SNS层负责将全局文件名转化成本地的文件名，然后到SC层去查找，如果在Cache中找不到，最终会通过本地的文件系统完成对应的I/O请求。整个系统的总体结构如图1所示。 在服务器端还有一个全局管理程序（心跳协议程序）。通过该心跳协议程序，所有的存储节点的所共享出来的文件构成了整个文件系统的单一的全局逻辑树，从而可以让客户端见到唯一确定的全局逻辑树。 图1总体结构图 3关键技术 3．1统一名字空间的设计与实现 统一名字空间是指服务器上的每一个目录和文件在我们的文件系统中都有一个统一的，唯一的名字。要实现统一名字空间就必须将服务器上的本地局部路径与文件系统中的全局路径一一对应，所以我们在每一个服务器上都存放了一个本地配置文件来记录这个映射关系，每个服务器应该根据所有服务器的本地配置文件而形成一个全局配置文件。本地配置文件的第一行主要记录其版本号。后面的每一行是一条记录，主要包括共享的全局路径（客户端看到的文件或目录名）及物理路径（服务器上存放的文件或目录名）。 而全局配置文件的第一行主要记录其版本号，服务器个数及每个服务器的IP，后面的每一行是一条记录，与本地配置文件的记录相识，只是多了一个服务器IP的信息 当服务器启动后，首先根据自己的本地配置文件生成一个全局配置文件，然后广播自己的本地配置文件。当服务器接收到其他服务器的本地配置文件后，会根据这个本地配置文件修改全局配置文件。当全局配置文件中不包括该服务器的信息即第一行没有该服务器的IP，我们将全局配置文件的版本号改为两个配置文件中版本号的稍大者，并修改服务器个数，添加服务器的IP及对应的记录。如果全局配置文件中已包括该服务器的信息且全局配置文件的版本号大则不用修改，否则将全局配置文件的版本号修改成接收文件的版本号，并修改服务器个数，添加服务器的IP及对应的记录。 当修改了某个服务器的信息后，我们应该将本地配置文件的版本号修改为全局配置文件的版本号加一，然后广播自己的本地配置文件。 当获得一个全局配置文件后我们还应将其转化为一棵目录文件树使得在客户端对一个文件或目录的操作能够转换成对服务器上得操作。 为了方便查找，我们将全局配置文件转化为一棵二叉树，以全局配置文件中记录的全局路径来建树。其中树的根节点代表者全局路径的根目录。树中节点的左儿子为其子目录，右儿子与其在同一级目录上。 3．2客户端文件系统的设计与实现 文件系统应该提供一组服务，使用户能够处理数据，以执行所需要的操作，包括创建文件、删除文件、组织文件、读/写文件、控制文件的访问权限等。 Linux通过VFS（虚拟文件系统）为各种文件系统提供统一的接口。VFS是内核中的一个软件层次，负责处理所有与文件系统有关的系统调用。我们通过像VFS注册了一种文件系统MVFS，使得用户的请求可以由我们提供的函数来处理[3]。 MVFS文件系统中主要包括超级块，目录项和索引节点。MVFS文件系统的总体结构如图所示。 图2MVFS文件系统的