LecNote9并行计算中的任务分配.pptVIP

第九讲 并行计算中的任务分配 任务分配方法 静态任务分配 动态任务分配 动态任务分配的实现 对等协同：peer-to-peer collaborating 集中调度：master-slave POSIX并行程序中的计算任务划分 对等协同 锁 信号量 CELL BE上的计算任务划分 集中调度 邮箱 DMA数据传输 并行算法设计：BSP与PCAM BSP：子任务在时间和空间上的规划 时间上的规划：整个算法由若干个串行执行的superstep组成 空间上的规划：每个superstep上包含一组互相独立的子任务 PCAM：发现问题中的子任务、产生规划的方法 P：通过功能分解、数据分解，寻找并行性。解决两方面的问题 并行程序的伸缩性 并行计算任务划分的负载均衡性 C：检查子任务间的依赖关系，发现规划必须满足的约束条件 A：选择合适的子任务粒度，减小并行计算的额外开销 子任务分配开销 子任务间的通信开销 子任务间的同步开销 M：将子任务组织成若干个superstep 并行计算中的任务分配方法 并行算法设计的结果: BSP模型 若干个顺序执行的superstep 每个superstep上是一组互相独立的子任务 这些子任务是通过功能分解发现的：子任务的数量有限、与被处理数据的规模无关 这些子任务是通过数据分解发现的：被处理的数据规模越大，子任务的数量越多 在每个superstep上，如何确定各个处