吉林大学多核程序设计第二章并行程序设计基础(并行计算基础).pptVIP

第二章 并行计算基础 并行计算： 并行计算就是将一个大规模的计算问题分解成若干小的任务，通过运行在多个运算部件上的这些小任务的合作来求解一个规模很大的计算问题的一种方法。 强并行计算：如果一个计算由若干子计算构成，若各子计算之间不存在依赖关系，可以并行计算，那么这种计算可以称为强并行计算。 弱并行计算：如果一个计算由若干子计算构成，若各子计算之间存在依赖关系，不能并行计算，但是单个的子计算内又可以分解为若干更小粒度的子计算，且这些更小粒度的子计算是可以并行执行的，这种并行计算可以称为弱并行计算。 第二章 并行计算基础 并行计算的应用 预测模型的构造和模拟、工程设计和自动化、能源勘探、医学、军事以及基础理论研究等领域中都对计算提出了极高的要求。 并行计算三种主要的基本类型： 计算密集型应用，如大型科学工程计算与数值模拟； 数据密集型应用，如数字图书馆、数据仓库、数据挖掘和计算可视化等； 网络密集型应用，如协同工作、遥控和远程医疗诊断等。 并行程序开发方法 并行层次与代码粒度 指令级并行：在多个并行层次中指令级并行是代码粒度最小的并行，也称为微粒度并行、甚细粒度并行； 数据级并行：又称为细粒度并行，它比指令级并行所执行的代码粒度要大一些，一般长度为几百条指令，这类并行通常都是在编译阶段由编译器来负责实现的 ； 控制级并行：也叫中粒度并行，通常是面对过程、子过程