内存计算与数据中心网络.docxVIP

PAGE 1 PAGE 1 内存计算与数据中心网络  对于数据中心架构师而言，这好像是一个简洁的问题。对于从电子商务平台背后的数据库、搜寻引擎中的大数据工具、突然流行的数据分析到科学代码的各种应用而言，应用响应时间的主要限制是存储延迟。  对于数据中心架构师而言，这好像是一个简洁的问题。对于从电子商务平台背后的数据库、搜寻引擎中的大数据工具、突然流行的数据分析到科学代码的各种应用而言，应用响应时间的主要限制是存储延迟。与此同时，DRAM的密度正在变得越来越高，而固态盘(SSD)则在变得越来越廉价。存储级内存(SCM)是一类新的内存设备，这类设备将在服务器卡中置入大量内存。那么为什么不将这些问题应用的全部数据都存储在内存中，从而完全消退磁盘甚至固态盘的延迟呢？  图1.转变数据中心网络的时机已经成熟。  这个概念很适合数据中心工作负载的不断变化的需求。很多人对用户级别的响应时间变得越来越敏感，因为用户越来越倾向于在几秒延迟后放弃搜寻、在线购物或内容浏览。随着掌握系统（特殊是自动驾驶汽车）中开始包含机器学习或数据分析功能，实时限制得以产生，这使得延迟问题变得更加紧迫。  与此同时，真正浩大的数据集也被纳入了网络角色。英特尔?高级总工程师DavidCohen表示：“大数据分析能力使得冷数据得以回暖。新的分析方法正在深入探究浩大的历史数据集，包括事务日志、分类账、遥测或源源不断的物联网(IoT)网络流，这些数据集过去只是难以理解的档案。开发人员期望分析在几秒内完成，而无需耗费数天。  因此将全部数据放在主内存中是一个好方法，这将可以推动创建出一整代新应用和平台以及一个新的类别名称：内存计算。（请留意，内存计算是指数据完全存储在内存中的应用，而非嵌入到内存子系统中的处理单元。）但强大的技术也会有弊端。若要消退弊端，需要重新思索内存组织和数据中心网络架构（图1）。这使得内存计算不仅仅是一个编程决策，更是一项工程挑战。  首先我们来了解一下它的演变。  更靠近内核  人们对内存计算的最初反应是纷纷上马此项技术，好方法通常都是如此。争抢挤入扩展的服务器DRAM的数据集很快就超出了机架式服务器卡的几百MB的DRAM容量。  这迫使架构师认真观看工作负载中的数据访问模式。在map-reduce工作负载中，每个服务器都有自己的数据块并且服务器没有什么必要访问不在其本地DRAM中的数据，这没有什么大问题。这种状况下的内存计算仅仅是指划分数据集，以便每个数据块适合一个服务器卡的DRAM并且长久储存在此处。大多数状况下都需要访问存储在DRAM中的工作集的其他工作负载也是如此。然而当工作集无法存储在DRAM中时，挑战就来了。  下一个演进步骤是使固态盘发挥作用。通过PCIe连接到CPU的服务器卡上的固态盘可以向卡中添加1到数TB的本地存储（图2）。固态盘通常拥有用于隐蔽其固有延迟的DRAM高速缓存，因此可以每秒生成数十万个随机读取操作，可能是写入操作数量的四分之一。通常它们会使用NVMe命令协议替代PCIe，该协议适用于读写命令，而非模拟内存。  图2.如今的服务器卡具有访问内存、存储和卡外资源的三种主要互连方案。  因此，当应用需要固态盘中的资源时，必需发出一个发送NVMe命令的系统调用，通过PCIe将来自固态盘的数据块传输到主内存DRAM。管理程序可以隐蔽这一进程，并使这些设备（其内部高速缓存可能有30-40微秒的延迟）在应用面前表现为特别缓慢的内存。依靠本地固态盘并不是真正的内存计算，只是对于应用而言看上去如此。  这一现实（特殊是40微秒的延迟）增加了对下一个演进步骤SCM的需求。这类内存的密度几乎与NAND闪存一样，但速度几乎与DRAM一样，可创建一个特别快速的固态盘，或以DIMM格式创建并直接插入服务器卡的DRAM总线。SCM的当前备选选项也是非易失性的。这听起来很棒，但问题是这些技术实际上并没有以DIMM格式出现，所以目前它们只是另一种构建固态盘的方式。  假如我们的确获得SCMDIMM，那么内存计算将会有很大提升，将40微秒的延迟缩短为4微秒左右。它们还会将服务器卡DRAM总线上的主内存容量从几百MB提升到24TB。现在我们有一个硬件平台，可以为实际数据集供应真正的内存计算。  扩展  但是，每个服务器卡上的大内存容量并不能解决全部问题。Cohen指出，很多应用必需保存事务日志和检查点，即使在长久内存中运行也不例外。非易失性内存无法防止数据集受到漏洞或恶意攻击。这些可能会导致从服务器卡到存储池的短消息出现高频流量后台，从而给架顶式(ToR)网络带来严峻挑战