吉林大学研究所课程-并行计算课件-第3章—并行算法设计基础.ppt

3.2 并行计算模型 LogP：MIMD-DM 基本概念： LogP 模型是技术趋势，编程经验和现行理论的综合产物； 用于大粒度并行计算； 使用分布式存储器的单一的单一的和多重访问地址空间； 进程间异步操作； 采用报文通信方式隐式实现同步操作，即子集同步。 LogP：MIMD-DM 参数和计算 LogP模式把通信网络抽象为3个参数：L（网络延时），O（通信开销），g（网络带宽）； 计算过程有若干superstep组成； 在每个superstep中异步地实现局部计算并通过发送/接收L/g报文进行同步。 LogP：MIMD-DM 优点： 可捕捉并行计算机的（同步）通信瓶颈（通过发送或接收L/g 个报文）； 可隐匿拓扑结构，路由算法和网络协议的细节； 可用于共享变量，报文传递和数据并行处理等方案。 缺点： 受限于网络的通信能力（当进行处理机数量扩充时）； 难以计算同步开销和进行算法描述和设计。 注：优点中的“捕捉同步通信开销”是指当处理机数一定的情况下，通过发送/接收关于L/g参数的报文来获取网络通信量情况，并避免拥塞； 缺点中“受限于网络通信能力”是指当处理机数量增加时，获取L/g参数的通信开销也要增加，反过来要现在处理机数量的（无限制）增加。 LogP：MIMD-DM BSP与LogP的比较： LogP是具有子集同步方式的BSP（bulk superstep-subset）； B