并行计算综述.docVIP

什么是并行计算 并行计算（parallel computing）是指，在并行机上，将一个应用分解成多个子任务，分配给不同的处理器，各个处理器之间相互协同，并行地执行子任务，从而达到加速求解速度，或者增大求解应用问题规模的目的。 由此，为了成功开展并行计算，必须具备三个基本条件： (1) 并行机。并行机至少包含两台或两台以上处理机，这些处理机通过互连网络相互连接，相互通信。 (2) 应用问题必须具有并行度。也就是说，应用可以分解为多个子任务，这些子任务可以并行地执行。将一个应用分解为多个子任务的过程，称为并行算法的设计。 (3) 并行编程。在并行机提供的并行编程环境上，具体实现并行算法，编制并行程序，并运行该程序，从而达到并行求解应用问题的目的。 并行计算的主要研究目标和内容 对于具体的应用问题，采用并行计算技术的主要目的在于两个方面： (1) 加速求解问题的速度。 (2) 提高求解问题的规模。 组成并行机的三个要素为： ? 结点（node）。每个结点由多个处理器构成，可以直接输入输出（I/O）。 ? 互联网络（interconnect network）。所有结点通过互联网络相互连接相互通信。 ? 内存（memory）。内存由多个存储模块组成，这些模块可以与结点对称地分布在互联网络的两侧，或者位于各个结点的内部。 并行编程模型 1.共享内存模型 　　a)在共享编程模型中，任