减少交互开销影响地方法.pptVIP

减少交互开销影响的方法 进程间的交互开销取决于许多因素，如进程间交互的数据大小、交互的频率、交互的时空属性等 减少交互开销的一般性方法： 最大化数据局部性； 最小化竞争与Hotspot； 计算与交互重叠； 数据复制或重复计算； 利用优化过的聚合交互操作； 将交互开销相互重叠。 最大化数据局部性 减少进程间交互的数据量 采用恰当的分解与调度策略以利用局部数据执行尽可能多的操作，例如对矩阵乘法，采用二维分布比一维分布时具有更少的共享数据 使用局部数据来存储中间结果，并且只在进行最后结果的计算时，才访问共享数据，例如内积的计算 减少进程间交互的次数 在许多体系结构上，交互的起步时间一般相对比较长 通过对算法进行重新组织，使得对共享数据的访问与使用以成片方式进行，可以减少进程间交互的频率 例如，稀疏矩阵与向量的乘法 最大化数据局部性(续) 对共享数据进行整合，减少交互次数 最小化竞争与Hotspot 数据访问与进程间交互常引起竞争。多个任务同时访问相同的资源的可能情况如： 经过同一条物理链路的多个消息同时传输 对同一个存储块的多个访问同时进行 在同一时候多个进程向同一个进程发送消息 最小化竞争与Hotspot(续) 在二维输出划分下，进行并行矩阵乘法时，对每个块Cij，0 ? i, j p1/2，两个计算公式的比较 计算与交互重叠 进程有时会等待从其它进程上传来的数据以进行后续计算，或等