并行课件2008-2.pptVIP

单个进程（process） 进程是一个程序，同时包含它的执行环境（内存、寄存器、程序计数器等），是操作系统中独立存在的可执行的基本程序单位。 通俗理解：串行应用程序编译形成的可执行代码，分为“指令”和“数据”两个部分，在程序执行时“独立地申请和占有”内存空间，且所有计算均局限于该内存空间。 进程1 内存 进程2 单机内多个进程 多个进程可以同时存在于单机内同一操作系统 进程间相互独立（内存空间不相交） 进程间可以相互交换信息： 包含于通过网络联接的不同计算机的多个进程 进程独立存在：进程位于不同的计算机，由各自独立的操作系统调度，享有独立的CPU和内存资源。 进程间相互信息交换：消息传递。 消息传递的实现：基于网络socket机制,用户不必关心。 组通信，群通信，集合通信 第一节 组通信概述(Collective communication) 组通信一般实现三个功能： 通信 同步 计算 一、组通信的消息通信功能 一对一 按通信方向的不同，组通信可分为三种 …… …… 一对多 多对一 多对多 广播 收集 二、组通信的同步功能 快的进程必须等待慢的进程，直到所有进程都执行到该语句后才可以向下进行 同步点 进程完成同步调用后，所有的进程都已执行的同步点前面的操作 三、组通信的计算功能 组内消息通信 处理结果存 入接收缓冲区 相应进程的 消息处理 MPI组通信的计算功能分三步实现： 第一、通信的功能，消息根据要求发送到目标进程，目标进程也接收到的所需的消息 第二、消息的处理，即计算部分 第三、将处理结果放入指定的接收缓冲区 MPI_BCAST（buffer,count,datatype,root,comm） IN/OUTbuffer通信消息缓冲区的起始地址 INcount  将广播出去/或接收的数据个数INdatatype 广播/接收数据的数据类型INroot 广播数据的根进程的标识号INcomm 通信域int MPI_Bcast(void* buffer,int count,MPI_Datatype datatype,int root, MPI_Comm comm)MPI_BCAST(BUFFER,COUNT,DATATYPE,ROOT,COMM,IERROR)type　 　BUFFER(*)INTEGER　COUNT,DATATYPE,ROOT,COMM,IERROR 功能？ 第二节 广 播（一对多） 第三节 收 集（多对一） all 发送大小一致的数据块 root 接收并按序号连续存放 与广播调用的异同点： 相同点：数据类型，个数 不同点：对于收集调用，根进程从各个进程收集到的数据一般互不相同 all 发送大小不等的数据块 root 接收并按索引间断存放 从不同的进程接收不同数量的数据 MPI_GATHERV MPI_SCATTER(sendbuf,sendcount,sendtype,recvbuf,recvcount,recvtype, root,comm)INsendbuf发送消息缓冲区的起始地址 INsendcount发送到各个进程的数据个数 INsendtype 发送消息缓冲区中的数据类型OUTrecvbuf 接收消息缓冲区的起始地址 INrecvcount待接收的元素个数 INrecvtype 接收元素的数据类型INroot 发送进程的序列号INcomm 通信域 一 、 MPI_SCATTER调用 第四节 散 发（一对多） 二 、 MPI_SCATTERV调用 MPI_SCATTERV(sendbuf, sendcounts, displs, sendtype, recvbuf, recvcount, recvtype, root, comm)INsendbuf 发送消息缓冲区的起始地址 INsendcounts  发送数据的个数，整数数组INdispls  发送数据偏移，整数数组INsendtype 发送消息缓冲区中元素类型OUTrecvbuf  接收消息缓冲区的起始地址 INrecvcount 接收消息缓冲区中数据的个数INrecvtype 接收