金融集团对象存储需求分析和架构设计.docxVIP

PAGE1

大型金融集团

对象存储需求分析和架构设计

背景

企业不断前进发展内在需求，促使企业管理不断主动变革，应对挑战。同时，随着企业的发展，不断产生的非结构化数据（非结构化数据，包含对象存储和文件存储）规模也越来越庞大。降低成本和提升效率的KPI需求，促使管理层不断寻找新的解决方案，创造新的价值，应对新的挑战。随着AWS的快速发展，对象存储影响力随着awss3的市场份额的扩张，而不断增强。

公司从2013年开始追踪研究对象存储解决方案，对比了E厂商H厂商D厂商等解决方案，同时也开展了基于openstack框架下的Swift对象存储研究，技术选型方案汇报到管理层后，从技术先进性，企业发展战略，社区热度，稳定性，成本，发展路线图等方面综合考量，评估，在2014年初做出了使用ceph作为对象存储开发技术原型的决定。

2014年11月自研对象存储正式上线，对象存储在公司的应用规模得到快速发展，如今已经达到了数十PB的规模，分布在数个不同地域的数据中心。在自己研发的对象存储占据主导地位同时，还有H厂商和I厂商的对象存储应用在不同场景中，其中I厂商的容量快速扩张，D厂商的对象存储在竞争中败下阵来，逐渐被淘汰。

对象存储发展的方案建议

企业发展的不同阶段，不同的战略目标，面临的IT管理的不同挑战，决定企业会选择哪种存储发展路线图，决定企业是否使用对象存储，如何使用对象存储。这是一个因地制宜的决策过程。很难有一个统一的对象存储发展方案来满足所有的企业。

但是有如下的因素，我觉得是在所有的对象存储方案中都应该考虑的：

1.准确的需求分析

需求分析是最重要的基础，如果没有需求分析，成本和收益分析就变成了无本之木，无源之水，后续的方案设计就变成了空中楼阁

2.企业发展战略和目标，IT管理战略和目标

技术发展路线和方案，永远要服务于IT管理目标，服务于企业战略发展。这样才能取得多赢

3.对象存储的成本和可用性之间,评估并设置一个恰当的平衡点

不谈成本和收益的架构设计没有实际的意义。过高的可用性浪费了企业成本，过低的可用性却不能满足业务的需求。这个平衡点很难把握。

对象存储的选型评估

当前对象存储主要应用在:大数据分析、备份、归档、内容分发、云存储5个场景中。

针对具体的对象存储应用场景，可以针对如下的指标设置不同的打分权重，比如用在公有云场景中，租户管理能力就是一个加大权重的考核点。在高可用方面，是否支持跨地域数据中心部署存储集群是一个重要的考核点。

当前市场上有很多对象存储解决方案，我们挑一些具有代表性的产品来看，其中I厂商的对象存储，在跨数据中心部署存储集群方面的能力比较突出，纠删码的配置也比较灵活。同时支持软件部署和软硬一体部署两种方式。H厂商，支持元数据检索功能。另外具备压缩去重功能。还在删除数据的时候具备数据粉碎功能，增强了安全级别。只支持软硬一体的部署方式。N厂商，支持跨数据中心部署全局纠删，支持元数据检索。存储空间使用效率稍低。

ceph对象存储，社区很热的开源项目，也具有很大的吸引力。面对单一的具体的需求场景，就需要对比更具体的技术细节，如面对备份场景，bucket的创建数量，是否支持版本，支持版本数量有无限制？读写吞吐多大？而面对多应用需求场景下，各种具体的技术细节都要考虑到，比如公有云场景：还有着重考虑多租户管理的能力。

文件存储和对象存储的差异

非结构化数据，包含对象存储和文件存储，那么在不同的场景中如何选择用对象存储还是文件存储呢？从技术角度，我们要从这两种存储的本质来看，对象存储访问接口基于http协议，这种协议显然比NFS和CIFS协议更适用于互联网。整个互联网就是以http协议作为基石的。因此对于互联网类开发应用，如IOS安卓APP之类的手机应用，直接调用基于http的接口显然更方便。如果使用NAS存储，还需要应用程序将文件存储封装成http接口的API提供给其他程序模块调用。

应用由文件存储转对象存储的理由

在使用对象存储之前，企业的非结构化数据都是存放在NAS存储设备上，主要以NFS和CIFS的方式对用户提供服务。

在使用文件存储的过程中，开发同事眼中的NAS有如下的问题：

1.要走两天以上的流程才能申请一个NAS卷挂载到指定的服务器上

2.一个NAS卷上读写过于密集会不会有性能问题呢？每次查询都要读取一个XML文件，而且要频繁更新

3.我们的软件系统是按照业务系列分套隔离的，NAS设备要不要分成多套进行物理隔离

4.基于NAS存储设备的高可用架构设计复杂，具体某场景架构描述如下

1）.主备NAS卷来解决数据丢失问题。

2）.主备分别使用不通硬件厂商设备、并部署在不通的机房来隔离硬件影响。

3）.应用分成4套来隔离业务影响，存储也分成4套保证能真正的完全隔离。

4）.