硬件因素对LogP+模型参数影响的研究.pdfVIP

硬件因素对 LogP 模型参数影响的研究 1,2 1,2 1 唐渊 , 张云泉 ,李玉成 1 (中国科学院 软件研究所 并行中心 ,北京 100080); 2 (中科院计算机科学重点实验室 北京 100080) E-mail: tang@, zyq@ 摘 要 有关并行计算的通讯模型已经有很多了，其中比较著名的，并且又适合于机群系统 （PC-Cluster） 这种目前比较流行的并行计算环境的主要有：LogP，LogGP。在[参考文献 4]所做的工作中详细地比较并 分析了 LogP 模型各个参数对实际应用程序的影响。但是，大多数的实验者与研究者限于条件，往往只是 对一个给定的系统环境做各种各样的测试，无法考虑不同的硬件组合对 LogP 模型或者 LogGP 模型的参数 产生的影响。而本文在对许多由不同硬件配置的系统的测试过程中，初步比较并分析了这些不同的硬件因 素对 LogP ，LogGP 通讯模型各个参数所造成的影响。希望能够对配置机群系统时需要考虑的硬件因素提 供有用的参考。软件因素的影响分析是我们将来的工作。 关键词 机群系统（PC-Cluster ），硬件因素，通讯性能，MPI ，LogP 模型 1 引言 已经有了很多从理论上刻画并行计算的通讯模型，其中比较著名的有 LogP[参考文献 2] ，LogGP[参考 文献 3] ，LogPQ ，LoGPC ，P-3PC 等等。这些通讯模型中，最基本的是 LogP 模型，其余都是 LogP 模 型针对不同通讯特点的进一步扩展。LogP 模型将影响大规模并行计算程序性能的因素主要归结为以下 几个参数： 1． L ：Latency 。即一条短消息（一般只携带一个字（word ）或很少几个字的短消息）从源端传 输到目的端所需经过延迟的上界。 2 ． o ：overhead 。即发送或接收一条消息时处理器所必须花费的时间，在此时间内，处理器无法 进行别的操作。 3 ． g ：gap 。即处理器连续地发送或接收两条消息之间所需经历的最短时间间隔。它被定义为点 到点之间带宽的倒数（reciprocal ）。 4 ． P ：Processors 。即整个并行环境中节点机的数目。如每个节点都只有一个处理器的话，则等 于整个环境中处理器的数目。 由于 LogP 模型是针对短消息的，所以这里的 o 和 g 参数都是一个固定的常数值。LogGP 模型是 LogP 模型在长消息方面的扩展。为此，它加入了一个新的参数 G ：即发送一条长消息时，每个字 节所需的时间间隔。另外，其他关于 LogP 模型的一些变型还建议发送与接收时的 overhead 是不同 的，需要分别对待，并且有的参数值依赖于所传递消息的长度。因此在具体进行机群系统各项通讯 参数的测量时，本文采用了[参考文献 1]所提的一个类似 LogP 模型的 5 元组模型（L ，os ，or ，g ， P ）。 在这个 5 元组模型（L ，os ，or ，g ，P ）中，P 代表了处理器的个数。L 是两个通信进程点到点之 间的通讯延迟，包括了整个通讯过程中的开销，如将数据拷贝到和拷贝出 Network Interface 的时间 以及数据在物理网络上实际传输的时间。os ，or ，g 分别定义为消息长度 m 的一个函数，即 os(m) ， or(m) ，g(m) 。os(m)和 or(m)为 CPU 发送或接收一条长度为 m 字节（bytes ）的消息时所花费的时 间。对于足够长的消息来说，发送还没有结束时，相应的接收过程可能就已经开始了，所以 os 和 or 可以有一部分的重叠（overlap ）。g(m)定义为连续地发送或接收一条长度为 m 字节（bytes ）的 收稿日期: 2002-03-16; 修改日期: 2002-05-16 基金项目: 中科院计算机科学重点实验室青年科学基金（SYSQN0101）和中科院软件所创新培育计划