4PipelinedComputations2015.pptx

1 5.1 Pipelined Computations 2 Pipelined Computations 问题分解成一系列依次完成的任务(这也是顺序程序设计的基础). 每一任务由一单独进程或处理器处理 Traditional Pipeline Concept 洗衣房例子 Ann, Brian, Cathy, Dave 每人有衣服要洗、甩干、折叠 洗衣服需要30 minutes 烘干机需要40 minutes 折叠需要20 minutes Traditional Pipeline Concept 顺序洗衣对4件任务需要6小时 如果用流水线？ 30 40 20 30 40 20 30 40 20 30 40 20 6 PM 7 8 9 10 11 Midnight Time Traditional Pipeline Concept 流水线洗衣需要3.5小时 6 PM 7 8 9 10 11 Midnight T a s k O r d e r Time Traditional Pipeline Concept 流水线并没有减少单个任务的延迟，但是它提高了吞吐率 流水速度受限于最慢的流水阶段 多任务同时运行，但使用不同资源 可能speedup = 流水阶段数量 不均衡的流水阶段长度降低speedup 6 PM 7 8 9 T a s k O r d e r Time 7 Example 累加数组a中所有元素: for (i = 0; i < n; i++) sum = sum + a[i]; 循环展开如下： sum = sum + a[0]; sum = sum + a[1]; sum = sum + a[2]; sum = sum + a[3]; sum = sum + a[4]; . . 8 Pipeline for an unfolded loop 9 Pipelining可以产生好效果的场景 假设问题可以分解成一系列顺序任务，流水线方法可以提高如下三种类型计算的速度： 1. 可以同时运行多个解决完整问题的实例 2. 一系列数据项需要处理，且每一数据项需要多个操作 3. 启动下一步骤的信息可以在当前步骤结束之前先行传递给下一步骤 Six Stage Instruction Pipeline 10 Timing Diagram for Instruction Pipeline Operation 11 12 “Type 1” Pipeline Space-Time Diagram 13 Alternative space-time diagram 14 “Type 2” Pipeline Space-Time Diagram 15 “Type 3” Pipeline Space-Time Diagram 在当前阶段完成之前信息传递给下一阶段 16 如果阶段的数量大于处理单元的数量，可将一组阶段分配给每一处理单元 17 Computing Platform for Pipelined Applications Multiprocessor system with a line configuration 18 Example Pipelined Solutions (Examples of each type of computation) 19 Pipeline Program Examples Adding Numbers Type 1 pipeline computation 20 process Pi的代码 : recv(&accumulation, Pi-1); accumulation = accumulation + number; send(&accumulation, Pi+1); 第一进程P0的代码如下 send(&number, P1); 最后进程Pn-1的代码： recv(&number, Pn-2); accumulation = accumulation + number; 21 SPMD program if (process > 0) { recv(&accumulation, Pi-1); accumulation = accumulation + number; } if (process < n-1) send(&accumulation, Pi+1); 最终结果在最后进程里 22 Pipelined addition numbers Master process and ring configuration Sorting Numbers Insertion Sort Algorithm 23 对于从第二个元素开始的每一数组元素(nextPos