[高等教育]并行计算-多媒体课件-并行体系结构-lec15-DSM2.pptVIP

Parallel Computer Architecture并行计算机体系结构Lecture 16 概要 复习第14讲 基于目录高速缓存一致性协议 放松的存储一致性模型 并行文件系统 工作站机群上的文件系统 并行应用一般要处理很大的数据集 I/O系统应该能允许并行应用中协作化的操作。 因此需要设计一个高性能的文件系统来简化进程间的协作，高效地利用所有资源，并且对用户是透明的。 考虑机群系统最基本的两个特点： 大量资源：如磁盘、内存等。 并行存取多个磁盘来提高传输带宽； 利用机群系统中的内存，建立大的文件系统缓冲区来提高性能； 高速互连网络 允许系统依赖远地节点完成某些任务。例如，现在的一些系统依赖远地节点的内存来保存本地节点中放不下的高速缓存块。 软件RAID 软件（逻辑）RAID： 将RAID的思想用在机群中，将数据分布在机群系统的多个磁盘中。 软件RAID表现就象RAID 5，并且与RAID具有相同的优缺点 与RAID的区别，就是文件系统需要负责分布数据和维护容错级别。 条块组（Stripe Group）： 将机群系统所有的磁盘组成一个逻辑RAID 向所有磁盘写的大的写操作非常困难，导致很多小写操作。但在RAID 5，小的写操作效率差。因此，系统就不能充分利用所有磁盘的写带宽。 节点的网络连接的带宽有限，不能够同时读/写所有磁盘，只能利用部分磁盘性能。 发生故障的可能性大。奇偶校验机制不够，可能同时多个磁盘故障。 解决方法是将数据条块化分布到磁盘的一个子集上（条块组）。 系统需要执行的小的写操作数目大量减少。 网络连接的带宽与条块组中磁盘的集合带宽相匹配，充分利用资源。 系统中允许多个磁盘失效，只不过不能是属于同一条块组的多个磁盘。 代价：减少了磁盘存储容量和有效带宽，因为每个条块组都必须有一个存放奇偶校验块磁盘，而在原来的方法中整个系统只要一个存放奇偶校验块的磁盘。 日志结构的文件系统（Log-structure Filesystem） 日志结构的文件系统提高磁盘速度。 基本假设：高速缓存满足读操作的比例是很高的，因此磁盘的通信量主要是由写操作决定。如果能够改善写操作的执行，顺序执行所有写操作，就可避免寻道和查找时间，能极大提高磁盘性能。 日志结构文件系统的基本思想：使大部分写操作是按顺序执行。 日志结构文件系统中，将整个文件系统作为一个日志来实现。日志结构的文件系统在每次块被写到一个文件时都将数据块加到日志的末尾，同时将以前写的块置为无效。这种方法允许每个文件被顺序写入；不管写的块顺序，因此提供了更快的写速度。 降低读性能的代价换来很高的写性能，增加了复杂性。 块按照写时的顺序分配使文件以随机顺序在磁盘中分散放置。 增加一个单独的垃圾清除程序来扫描文件系统、移除无效块。 需要一个复杂的缓存/查询机制来支持高效的查询，并且每个文件的块位置信息必须保存起来。 缓存 利用局部性原理 多级缓存：能够在不同的层次利用缓存机制。（服务器或客户端磁盘控制器、操作系统、I/O库、用户程序） 缓存一致性问题 ： 放松的文件共享语义：对话语义，增加了程序员负担 一致性算法：实现Unix语义。不缓存写操作， 令牌：写之前必须获得令牌。令牌的回收，租约。 粒度：文件，文件块，自定义 协同缓存： 如不同的缓存间没有协作，①不能充分利用所有的缓存空间；②一个节点需要的文件块，已经缓存在另一个节点的缓存中了，从该缓存读提高系统的性能。 第一个实现协同文件缓存的系统是xFS。 基本思想：机群中每个节点分配一部分主存作为文件缓存。协同缓存算法利用所有这些主存来创建一个大型的、机群范围的文件缓存。当客户不命中局部文件缓存时，转向远地客户的存储器去取数据。 数据预取 预取：真正存取数据块之前就将其读入内存。 并行预取：每个节点独立的预取数据 。One-block-ahead 或 Stride 透明通知预取 ：用户向I/O系统提供一些存取文件情况的提示信息，系统利用这些信息，能够更好进行预取 。 积极预取：一旦当磁盘准备好后，就进行预取，将内存中最远的将来才用到的数据块替换出去。 I/O接口 传统的I/O接口不能表达数据并行、协同化操作等概念，开发一种新的I/O接口来表达这些新的语义信息 . 共享文件指针 : 全局共享文件指针 分布共享文件指针 跨步存取模式： 简单的跨步存取操作 嵌套的跨步操作 Berkeley NOW 主动消息（Active Message）：实现低开销通信的一种异步通信机制。 在消息头部控制信息中携带一个用户级子例程（称作消息处理程序）的地址。当信息头到达目的节点时，调用消息处理程序从网络上抽取剩下的数据，并把它集成到正在进行的计算中。 GLUnix：全局层（Global Layer）Unix 运