分布式存储架构发展及技术分析与分布式存储典型问题解读.docVIP

分布式存储架构进展及技术分析

办公建职化

办公建职化云硬盘

计算无盘化直通存储模组sk,BkaNOF

t*sa

云主机云乘

MOsde

分布式DB数仓搜素

数把库服务服务

内存拉远池化。大内存加速应用

KVamoweCXL

MSOEilEQ\*jc3\*hps14\o\al(\s\up8(w),e)sa

感存储直形点增

直出容器FS和分布式EC,

卸载本地布周a,BastgRDMA

#a

AP

地性趣

高通量数据总线(内存型总线、直连总线、IP总线、Optkcau总线)

scscsicsiCsiCSI

DCeEQ\*jc3\*hps11\o\al(\s\up3(RD),DL)LLIDNafDNafDHNu/EQ\*jc3\*hps11\o\al(\s\up3(NaF),D)●EQ\*jc3\*hps14\o\al(\s\up3(存),拉)EQ\*jc3\*hps14\o\al(\s\up3(储型),远池化)EQ\*jc3\*hps14\o\al(\s\up3(模),共)EQ\*jc3\*hps14\o\al(\s\up3(组),享)

内存池内存池闪存池闪存池HDD池温冷介质●特性极篇

模组模组模组模组模组模组●EC压缩

基于新型极简共享存储的Diskless架构底座

交换机网络

SeneServer

并源分布式

ServerServer

GUEQ\*jc3\*hps11\o\al(\s\up6(应),拟)用化C风

spatKVWDGae

KVmemChant

存储域Server

计算域Server

业务场景

内存拉远

力公建取化云硬盘

AP

从云和互联网的业务场景来看，其存储域主要接受基于服务器部署分布式存储服务的融合方式，它面临如下挑战：

1.数据保存周期与服务器更新周期不匹配。大数据、人工智能等新兴业务催生出海量数据，大量数据需依据其生命周期策略(例如8~10年)进行保存。

2.性能牢靠与资源利用率难以兼得。支撑业务的分布式存储系统大致可以分为性能型存储和容量型存储，它们均无法同时实现高性能牢靠与高资源利用率。

具体地，性能型存储主要运行数据库、虚拟化等关键业务，通常接受三副本或两副本并协作独立冗余磁盘阵列卡模式；这类方案虽兼顾了性能和牢靠性，但其大约30%的空间利用率却是对存储资源的极大铺张。

容量型系统为了提升空间利用率，接受纠删码(ErasureCode,EC)方式，然而，EC计算过程中的读写、重构等会消耗大量网络资源，导致系统重构效率低下、重构时间长，给系统牢靠性带来风险(如图1所示)。

存储资源利用率低

存储资源利用率低

·常接受多副本方式保证牢靠性

·不同系统烟囱式构建存储，无法跨系统池化存储

云和互联网分布式存储系统

服务器服务器服务器服务器服务器

CPU

IP网络

性能牢靠性影响大

·EC计算过程中读写、重构等消耗大量网络资源，系统重构效率低下、重构时间长

图1分布式存储资源利用率

3.新型分布式应用的极简高效共享存储诉求。以无服务器(serverless)应用为代表的新型分布式应用在近些年涌现，这类应用从无状态化向有状态化扩展，比如数据库、消息总线等组件纷纷容器化，数据共享访问的诉求不断增多。与此同时，人工智能和机器学习等应用需要大量异构算力协同，甚至产生共享内存访问的诉求，它们关注高带宽、低时延的访问力量，仅需要轻量、便捷的共享存储系统即可，不需要搭载具有简单企业特性的传统存储。

4.数据中心税导致数据密集型应用效率低下。面对数据密集型场景，在基于以CPU为中心的服务器架构下，应用为猎取数据所缴纳的“数据中心税” (datacentertax)日益加重。例如，服务器内的CPU为处理网络及存储IO恳求，需要消耗高达30%的算力[3];

此外，由于通用CPU并不擅长数据处理运算，导致其能效比低下。传统存算分别架构将算力资源和存储资源(机械硬盘、固态硬盘等)分别至彼此独立的计算域和存储域，并通过