Ceph简介.pptxVIP

Ceph简介目录概述监控器数据分布文件系统数据读写纠删机制Ceph概述应用程序客户端编程访问虚拟机、iSCSI块协议转换 RBD可扩展、高可用的块设备，在内核级别支持QEMU/KVM对象访问网关RADOS GateWay基于HTTP的对象访问网关，符合REST风格兼容S3和Swift协议文件协议转换Ceph FS支持标准POSIX协议的分布式文件系统，支持linux内核客户端和FUSE两种访问方式对象访问接口LibRADOS允许直接访问统一存储池（RADOS）的函数库，支持C、C++、Java、Python、Rbuy、PHP等多种语言统一存储池RADOS（Reliable, Autonomic Distributed Object Store ）一个高可用、智能化的分布式对象存储系统，支持自修复、自管理等底层数据管理功能Rados架构Rados是实现分布式存储的根本，所有接口都是基于rados实现的。Rados组成监控器（Monitors）维护集群的成员和状态，提供强一致性的策略数据存储设备（OSDs）主要负责存储和查找对象，并且负责向该对象的复制节点分发和恢复目录概述监控器数据分布文件系统数据读写纠删机制监控器通过管理集群的关键状态和配置信息维护集群的状态维护集群的成员和状态(cluster map)，提供强一致性的策略存储集群map的主本，并根据系统状态的变化更新map，并把更新发送到系统内所有节点采用集群方式避免单点故障，利用paxos算法保证集群map的一致性，并保证结点数少于半数失效的情况下仍然能正常工作监控器之间必须对集群的状态达成一致，因此必须是奇数Osdmap：osd状态Up：运行状态Down：停止状态或者无法建立连接In：持有数据Out：不持有数据OUTINOSD正常运行，但并未承载任何PG，其中也没有数据。一个新的OSD刚刚被加入Ceph集群后，便会处于这一状态OSD正常运行，且已经承载至少一个PG的数据。这是一个OSD的标准工作状态UPOSD发生异常，但仍然承载着至少一个PG，仍然存储着数据。这种状态下的OSD刚刚被发现存在异常，可能仍能恢复正常，也可能会彻底无法工作OSD已经彻底发生故障，且已经不再承载任何PG，其承载的数据正在或者已经被重构down目录概述监控器数据分布文件系统数据读写纠删机制对象存储设备为客户端提供数据存储服务负责数据复制、数据一致性、数据的re-balance以及数据的恢复对象存储设备OSD硬盘Linux文件系统OSD进程文件系统BTRFS,XFS,EXT4支持扩展属性CRUSH算法一致性哈希算法将数据均匀分散在所有参与存储节点组成的存储空间， 在算法上支撑存储层面的无限扩展能力 CRUSH算法在层级结构的存储集群中有效的分布对象的副本1EB100PB10PB一致性哈希空间数据管理：概念对象：实际存放的数据PG：放置组，对象存放的逻辑集合Pool：对应于的逻辑分区PGObjectpool1pool2pool3OSDOSDOSD对象对象可以视为一个完整而独立的数据。每一个对象通过其对象id（Object ID/oid）进行标示。对象的内容包含数据和扩展属性两部分对象的命名空间是扁平的Objectoiddata对象存储系统attrObjectAObjectBObjectCObjectDObjectX放置组（PGs）什么是PG具有共性的对象的逻辑集合一致性哈希中的虚拟节点，维护了一部分数据如何选择PG基于对象名的hash值系统的放置组数量与期望的数据冗余策略有关（pool）数据迁移和改变的最小单位数据恢复数据一致性检测数据分级降低了需要追踪和处理元数据数量对象的存放对象名foo目的存储池bar放置组数量256CRUSH算法Crush（clustermap， rule，pgid）文件/块数据存储为数据指定存储池条带化为对象条带大小默认为4MB对象映射到放置组放置组映射到一组OSDs数据落盘的形式目录概述监控器数据分布文件系统数据读写纠删机制文件系统InoCaps的概念de的概念OC的机制，lru的实现；Fuse的实现原理；SMB/NFS等应用Libcephfs.so/ceph-fuseMDSMDSMDSclientocobjecterRADOS目录概述监控器数据分布文件系统数据读写纠删机制数据读写写数据：在client端进行寻址，client直接跟主副本通信，发起写请求，主副本向其他副本发起写操作，其他副本写完成后发送确认信息，然后主副本写完成后向client应答。数据读取：在client端进行寻址后直接跟主副本通信FileStore随机小块的写操作就直接写入journal，合并成顺序IO再下刷提供了事务的一致性和原子性，使得 OSD 进程在非正常退出后再启动可以从 Journal 中恢复