第五章指令流水技术.pptVIP

第五章 指令流水技术 5.1 指令流水的基本概念 流水工作方式：将一个计算任务细分成若干个子任务，每个子任务由专门的部件处理，多个计算任务依次进行并行处理。 流水线的性能 1. 吞吐率： 单位时间内流水线能处理的任务数量。 最大吞吐率与实际吞吐率 2. 加速比 流水方式的工作速度与等效的顺序工作方式时间的比值 5.1.1 基本指令流水线 流水方式与非流水方式的比较 例 假定将CPU分成上述5个阶段，存储器访问需要2ns时间，寄存器操作需要1ns，ALU运算时间为2ns，求流水方式和非流水方式下执行以下4条指令所需的时间。 lw $1,100($2) sw $4,100($5) add $7,$8,$9 beq $10,$11,3000 答： 在非流水的情况下，每个步骤所需的时间： 在流水的情况下，流水周期定为2ns，指令执行时间为10个周期。 指令流水线的时空图 指令的流水执行的要求 1. 指令长度应当尽量相同。 2. 指令格式应当简单。 3. 限制访存操作。 4. 尽量使操作数在存储器中对齐存储。 5.1.2 指令的相关性 1. 资源相关（结构相关） 流水执行的多条指令同时使用同一个部件 2. 数据相关 流水执行的多条指令访问相同的数据 RAW、WAR、WAW 3. 控制相关。 转移指令引起的相关 1. 指令流水线的数据相关 消除数据相关影响的方法 停顿 编译检测 相关专用通路 解决数据相关性的方法——流水线的停顿 消除数据相关性影响方法——编译的方法。 解决数据相关性的方法 ——相关专用通道 解决数据相关性的方法——相关专用通道 2. 指令流水线的控制相关 改进转移指令执行性能的方式——将转移指令的执行在流水线中提前进行 3. 指令流水线的资源相关 5.2 指令的调度 指令级并行性：指令序列中的并行性。 基本块：一个直线指令序列，除了程序的入口外不含其他转入的分支，除了出口处外不含其他转出的分支。 循环级并行性：循环递归之间的并行性。 开发循环级并行性的方法：循环展开，指令调度 例：for (i=1; i=1000; i=i+1) x[i] = x[i] + s; 编译后变成：loop: LD F0, 0(R1); F0=array element ADDD F4,F0,F2; add scalar in F2 SD 0(R1),F4; store result SUBI R1,R1,8; decrement pointer 8 bytes BNEZ R1,loop; branch if R1!=zero 执行时的情况 假定LD指令的执行需2拍，ADDD执行需3拍，有一个转移延迟槽。 loop: LD F0, 0(R1) 1 stall 2 ADDD F4,F0,F2 3 stall 4 stall 5 SD 0(R1),F4 6 SUBI R1,R1,8 7 BNEZ R1,loop 8 stall 9 指令调度后的执行情况 loop: LD F0, 0(R1) stall ADDD F4,F0,F2 SUBI R1,R1,8 BNEZ R1,loop SD 8(R1),F4 执行时间：6个时钟周期。 程序展开3次 loop: LD F0, 0(R1) 2 ADDD F4,F0,F2 3 SD 0(R1),F4 1 LD F6,-8(R1) 2 ADDD F8,F6,F2 3 SD -8(R1),F8 1 LD F10,-16(R1) 2 ADDD F12,F10,F2 3 SD -16(R1),F12 1 LD F14,-24(R1) 2 ADDD F16,F14,F2 3 SD -24(R1),F16 1 SUBI R1,R1,#32 1 BNEZ R1,loop 2 未调度时，执行时间为27个周期，平均每个迭代6.8个周期 调度后 loop: LD F0, 0(R1) LD F6,-8(R1) LD F10,-16(R1) LD F14,-24(R1) ADDD F4,F0,F2 ADDD F8,F6,F2 ADDD F12,F10,F2 ADDD F16,F14,F2 SD 0(R1),F4 SD -8(R1),F8 SD -16(R1),F12 SUBI R1,R1,#32 BNEZ R1,loop SD