程序并行性开发与多线索计算模型.pdfVIP

第二章 程序并行性的开发与多线索计算模型 第二章 程序并行性的开发与多线索计算模型 2.1引言 多线索是近年来发展起来的新型技术,由于它以有用的计算来掩盖处理机因长周期操作导 致的等待 从多个可能的指令流中提取更多的指令级并行性 利用多硬件并行而不是靠提高硬 件的速度来提高机器的性能 因此成为进一步提高计算机性能的重要希望[1,2,3].目前,无论是 系统软件还是硬件结构都已经得到广泛深入的研究和应用[41-105].许多流行的操作系统,如 SUNOS, WINDOWS高版本等,都支持多线索编程.虽然还没有出现一个令人满意的多线索处理器结 构,但该方面的研究一直受到重视.本章将系统讨论多线索计算模型及其原理,并结合其它的现 代处理器技术阐述该模型开发应用程序中内在并行性的原理. 2.2应用问题中存在的并行性及其表示 2.2.1应用问题中的并行性 4 1 4 2 4 3 4 4 Thread Number 3+C 5 6 7 3+C 3+C Grain Size 8 9 2+C 2+C :Thread 10 C:Communication Overhead 1+C 图 高斯消元法的线索依赖图 2-1 Figure2.1 Thread Dependent Graph of Gaussian Elimination 如果说早期的计算机设计目的是用机械代替手工计算而节省时间,那么如今计算机的使用 范围已远远超出了设计者的想象,如天气预报数据计算 分子运动模拟 原子弹爆炸的模拟等, 这些问题的解决所需要的计算量是用手工无法作到的,用串行计算机所需要的计算量也是令人 无法忍受的,只能通过并行处理来实现.目前的研究表明,大规模问题中存在大量的并行性,这些 并行性可通过数据流图的形式表示出来.例如,图2 1是高斯消元法解线性方程组的操作图,其 中方程组是五维的.图中不相连的结点间是可并行的.由图可看出,第一次消元时,四个方程组可 同时变换系数,其余的变换可按照依赖关系并行进行.由此可知,随着维数的增多,这种并行性会 大大增加. 上面提到只是科学计算中一个极其简单的例子,无法与天气预报等大规模问题相提并论 [116],然而它却说明实际应用问题中存在大量的可并性计算. -13- 哈尔滨工业大学博士学位论文 2.2.2并行性的表示 应用问题中存在内在的并行性,尤其是现代计算机面临着计算更加密集的大规模问题,其中 包含着更巨大的并行性.如何充分开发这些并行性是现代计算机技术研究的目标.然而对于同一 个问题,不同的算法 使用不同的语言以及不同的编译方法所得到的最终代码有很大的区别,若 这些代码本身没有表示出问题本身的并行性,依靠硬件技术开发其中的并行性是相当困难的.目 前的研究结果表明,单靠软件和硬件技术自动开发串行程序中的并行性是相当困难的.例如,虽 然各个国家对并行编译投入很大,但许多年研究的进展并不很大,前景也并不乐观,串并转换仍 然有相当大的困难.动态调度虽然有一些比较乐观的结果,然而受硬件复杂度和指令窗口以及指 令相关性的制约,其开发能力也受到很大的限制.因而要想