并行课件.pptVIP

单个进程（process） 进程是一个程序，同时包含它的执行环境（内存、寄存器、程序计数器等），是操作系统中独立存在的可执行的基本程序单位。 通俗理解：串行应用程序编译形成的可执行代码，分为“指令”和“数据”两个部分，在程序执行时“独立地申请和占有”内存空间，且所有计算均局限于该内存空间。 进程1 内存 进程2 单机内多个进程 多个进程可以同时存在于单机内同一操作系统 进程间相互独立（内存空间不相交） 进程间可以相互交换信息： 包含于通过网络联接的不同计算机的多个进程 进程独立存在：进程位于不同的计算机，由各自独立的操作系统调度，享有独立的CPU和内存资源。 进程间相互信息交换：消息传递。 消息传递的实现：基于网络socket机制,用户不必关心。 组通信，群通信，集合通信 第一节 组通信概述(Collective communication) 组通信一般实现三个功能： 通信 同步 计算 一、组通信的消息通信功能 一对一 按通信方向的不同，组通信可分为三种 …… …… 一对多 多对一 多对多 广播 收集 二、组通信的同步功能 快的进程必须等待慢的进程，直到所有进程都执行到该语句后才可以向下进行 同步点 进程完成同步调用后，所有的进程都已执行的同步点前面的操作 三、组通信的计算功能 组内消息通信 处理结果存 入接收缓