程序并行性.pptVIP

§3 多处理机的并行和性能 并行算法 程序并行性分析 并行语言与并行编译 多处理性能 并行算法 并行算法的定义和分类 多处理机并行算法的研究思路 并行算法的定义 算法规定了求解某一特定问题时的有穷的运算处理步骤 并行算法是指可同时执行的多个进程的集合，各进程可相互作用、协调和并发操作 并行算法的分类 按运算基本对象：数值型（基于代数运算），非数值型（基于关系运算） 按并行进程间的操作顺序不同：同步型，异步型，独立型 按计算任务的大小：细粒度，中粒度，粗粒度 并行计算的模型 PRAM（Parallel Random　Access Machine） APRAM(Asychromous PRAM) BSP(Bulk Synchronous Parallel) logP(Latency, Overhead, Gap, Processor) 并行计算的功能 降低单个问题求解的时间 增加问题求解规模、提高问题求解精度 (多机同时执行多个串行程序)容错、更高的可用性、提高吞吐率 如何实现并行计算? 分而治之 并行化的主要方法:分而治之 根据问题的求解过程，把任务分成若干子任务(任务级并行或功能并行) 根据处理数据的方式，形成多个相对独立的数据区，由不同的处理器分别处理(数据并行) 并行计算基本设计技术 划分法(Partitioning) 首先，将原问题分成p个独