多集群环境之MPI群集通信计算研究.docVIP

　　多集群环境之MPI群集通信计算研究 第 1 章 绪 论 1.1相关技术现状 近年来，随着互联网产业的高速发展，IT 技术在各个领域都得到广泛的应用，由此产生的数据也呈现爆炸式的增长，尤其在科学探索方面，地下石油资源探测、全球气候预报、基因的奥秘等 21 世纪人类所面临的重大科技难题，无一不需要采集海量数据进行分析处理。传统单机计算模式已远远不能胜任此类数据密集型作业，迫切需要海量存储、高性能计算机以及高速互联网络等基础设施的支持。目前，以高性能计算平台为基础的大规模并行计算已成为一门新的学科，受到了国内外学者的高度关注。如何有效地编写并行程序、提高并行软件的执行效率成为计算机产业界和学术界研究的热点。 1.1.1并行计算概述 目前，高性能计算机在世界各国都取得了巨大的发展，计算能力在数万亿以上的高端计算机都已研制成功。当今几乎全部学科都走向精确化和定量化，进而产生了一系列的计算科学，如计算化学、计算物理学、计算生物学和计算力学等，逐步形成了新的计算性学科分支 计算机科学与工程（CSE）。计算科学，已经与传统的实验科学和理论科学并列成为第三门学科，相辅相成地推动着科学的发展和人类社会的进步。在多数情况下，不论是复杂的理论模型没有建立，又或者是实验费用较高，导致实验无法进行，都可以通过计算来解决。计算大大的增强了人们进行科学研究的能力。面对如此大规模、高精度的计算，传统的一般计算机往往是无能为力的。为了适应当前互联网产业的发展趋势，更需要对并行计算进行深入的研究。大规模并行计算主要有三类应用需求：以数值模拟和大型科学计算为代表的计算密集型应用；以数据挖掘、数字图书馆、数据仓库等为代表的数据密集型应用；以远程医疗诊断、协同工作为基础的网络密集型应用。正是这些具有挑战性的应用需求推动了计算机科学的飞速发展。并行计算机的体系结构：并行计算机根据其访存特点、网络互连以及多处理器间的组织方式可以归纳为六种系统结构模型：单指令多数据流（SIMD）；属于多指令多数据流的并行向量处理机模型（PVP）、对称多处理机模型（SMP）、大规模并行处理机模型（MPP）、分布式共享存储多处理机模型（DSM）及工作站集群模型（COP[1]与向量处理机不同，其使用具有高速缓存的商用处理器。这些处理器通过高速总线与共享存储器互连，这类系统是对称的，每个处理器可平等的访问操作系统、I/O 设备以及共享存储器，因而可以获得较高的并行度。但是处理器与共享存储的互连方式限制了其扩展性，如果系统中处理器个数过多，则可能加剧对共享内存的竞争，所以处理器个数一般少于 64 个。大规模并行处理机 MPP[1]是一种异步的 MIMD 机器，同样采用商用处理器。这些处理器通过高带宽低延迟的网络互连，具有良好的扩展性。程序由多个进程组成，每个进程具有独立的地址空间，进程间通过消息传递协调多个进程的执行。MPP 多用于科学计算、信号模拟等领域。 分布式共享存储多处理机模型 DSM[1]由多个物理上分布的计算节点组成，由高速缓存目录 DIR 维持高速缓存的一致性，各个节点的局部存储器组成了全局共享存储器，系统的软硬件向用户提供了一个单地址的编程空间，相对于 MPP 而言，DSM 拥有更简易的编程方式。工作站集群模型 COPP 不同，MPP 中节点通常只有一个微核，而COPP 之间已经没有清晰的划分界限，相对于 MPP，集群系统拥有更高的性能/价格比和更优秀的扩展能力，随着集群计算（Cluster puting）的广泛流行，工作站集群模型 COPICH2 相关技术 2.1 MPI-2 标准 2.1.1 MPI-2 标准概述 MPI 是迄今为止最重要的并行编程环境，由众多并行应用单位、并行计算机厂商、软件开发组织共同维护，几乎所有并行计算机都对它提供支持，这是诸如 PVM、P4 等并行编程环境所无法比拟的[3]。MPI 自发布以来，不断的吸取多种并行编程环境的优良特性，经过多次的版本更新之后，已经成为事实上的标准和规范。MPI1.0 于 1993 年 2 月推出，MPI 论坛的成立推动了 MPI 标准的快速发展，1996年推出的 1.1 版本对原始版本进行了修改完善，但仍然存在很多缺陷，忽略了某些复杂的、难于实现的功能。MPI-2 在现有功能的基础上进行扩充，增加了并行 I/O 、动态进程管理、远端存储访问等特性。按照 MPI 标准编写的消息传递程序实用、灵活、高效，移植性好，可以不加修改的在所有并行计算机上执行，MPI 函数库支持 Fortran 语言和 C 语言，调用过程与一般函数相同。MPI 以提高通信效率、功能丰富、增强可移植性为主要目标。阻塞通信要求数据发送方的 Send 函数要与接收方的 Recv 函数相配合，即只有在安全的将发送的消息保存之后，Send 函数才可以返回。保存是