lustre集群文件系统及性能介绍.pptVIP

LUSTRE集群介绍 汇报内容 lustre集群基本情况 一、Lustre系统的体系结构 二、lustre的优缺点 三、性能测试结果 一、lustre体系结构 一、lustre体系结构 元数据存储与管理 MDS负责管理元数据，提供一个全局的命名空间，Client可以通过MDS读取到保存于MDT之上的元数据。在Lustre中MDS可以有2个，采用了Active-Standby的容错机制，当其中一个MDS不能正常工作时，另外一个后备MDS可以启动服务。 文件数据存储与管理 OSS负载提供I/O服务，接受并服务来自网络的请求。通过OSS，可以访问到保存在OST上的文件数据。一个OSS对应2到8个OST。OST上的文件数据是以分条的形式保存的，文件的分条可以在一个OSS之中，也可以保存在多个OSS中。Lustre的特色之一是其数据是基于对象的职能存储的，跟传统的基于块的存储方式有所不同。 Lustre系统访问入口 Lustre通过Client端来访问系统，Client为挂载了Lustre文件系统的任意节点。Client提供了Linux下VFS（虚拟文件系统）与Lustre系统之间的接口，通过Client，用户可访问操作Lustre系统中的文件。  一、lustre体系结构 lustre访问机制 Client MDS OSS 目录操作，文件开打/关闭，元数据，并发操作 文件内容，IO及文件锁 恢复，文件状态和文件创建 二、lustre的优缺点 lustre优点 提供数据共享和并行访问能力； 扩展性强：可以在线扩充系统总存储容量及通过增加节点数扩充网络访问带宽； 适用范围广：在I/O级和数据吞吐率方面能满足全行内系统均衡灵活的上传、下载文件； 稳定性强：可以对lustre管理下的元数据和目标数据提供故障切换技术，实现高可靠性访问； 二、lustre的优缺点 lustre优点 lustre 采用分布式的锁管理机制来实现并发控制，元数据和文件数据的通讯链路分开管理； 提供多网络协议访问，例如以太网络和IB网络等协议访问； 二、lustre的优缺点 Lustre缺点 1、需要并且只能在linux部署lustre内核，软件部署与linux操作系统绑定的比较紧密； 2、节点间故障切换要依赖于第三方的心跳技术，如linux自带的heartbeat软件包 3、目前只能写一份数据，无法依靠lustre实现数据镜像。 三、性能测试结果 测试内容： 本次测试的内容包括性能测试和故障切换 性能测试主要测试集群文件系统的I/O读写性能效率 故障切换主要测试集群文件系统在网络或系统失效情况下的切换机制。 测试目标： 测试指标包括以下内容：不同文件系统下的tibco消息中间件存储性能及系统命令工具的磁盘读写性能，系统CPU、内存、IO等待数据、I/O idle比率等；模拟lustre故障切换 三、性能测试结果 测试环境： 三、性能测试结果 在tibco消息中间件下性能测试数据： 测试类型 测试指标 文件系统类型 本地磁盘文件系统 (笔/秒) 磁盘阵列 LVM管理下的文件系统(笔/秒) Lustre文件系统 (笔/秒) 单进程（多线程）单队列 2K数据包 30个线程 8724/8720 7132/7132 3810/3808 50个线程 8928/8888 7794/7794 4733/4733 100个线程 9179/9179 8009/8009 5905/5905 多进程（多线程）单队列2K数据包 10个进程30个线程 7000/7000 8340/8340 5940/5940 三、性能测试结果 响应时间性能测试数据： ： 测试类型 测试指标 文件系统类型 本地磁盘 文件系统 磁盘阵列 LVM管理下的文件系统 Lustre 文件系统 单进程（多线程）单队列 30个线程 0.115/0.115 0.140/0.140 0.262/0.262 50个线程 0.112/0.113 0.128/0.128 0.228/0.228 100个线程 0.109/0.109 0.125/0.125 0.169/0.169 多进程（多线程）单队列 10个进程30个线程 0.143/0.143 0.120/0.120 0.168/0.168