动态调度 （Cont）, 推断执行和ILP课件.pptVIP

v 条件转移指令对流水线性能的影响 假设对于一条有K段的流水线，由于条件分支的影响，在最坏情况下，每次条件转移将造成k-1个时钟周期的断流。假设条件分支在一般程序中所占的比例为p, 条件成功的概率为q。试分析分支对流水线的影响。 结论：条件转移指令对流水线的影响很大，必须采取相关措施来减少这种影响。 预测可以是静态预测“Static” (at compile time) 或动态预测 “Dynamic” (at runtime) 动态分支预测 vs. 静态分支预测，哪个好？ Dynamic Branch Prediction 动态分支预测：预测分支的方向在程序运行时刻动态确定 需解决的关键问题是： 如何记录转移历史信息 如何根据所记录的转移历史信息，预测转移的方向 主要方法 基于BPB(Branch Prediction Buffer)或BHT(Branch History Table)的方法 1-bit BHT和2-bit BHT Correlating Branch Predictors Tournament Predictors: Adaptively Combining Local and Global Predictors High Performance Instruction Delivery BTB Integrated Instruction Fetch Units Return Address Predictors Performance = ?(accuracy, cost of misprediction) Misprediction ? Flush Reorder Buffer 1-bit BHT Branch History Table: 分支指令的PC的低位索引1-bit BHT 该表记录上一次转移是否成功 不做地址检查 例题：一个循环供循环10次，它将分支成功9次，1次不成功，假设此分支的预测位始终在缓冲区中，那么分支预测的准确性是多少？ 静态预测 vs. 动态预测 问题: 在一个循环中, 1-bit BHT 将导致2次分支预测错误(avg is 9 iteratios before exit): 最后一次循环, 前面都是预测成功，而这次需要退出循环 第一次循环，由于前面预测为失败，而这次实际上为成功 解决办法: 2位记录分支历史 Red: stop, not taken Green: go, taken 2-bit BHT NT T T NT Predict Taken Predict Not Taken Predict Taken Predict Not Taken T NT T NT BHT Accuracy 分支预测错误的原因: 预测错误 由于使用PC的低位查找BHT表，可能得到错误的分支历史记录 BHT表的大小问题 4096 项的表分支预测错误的比例为1% (nasa7, tomcatv) to 18% (eqntott), spice at 9% and gcc at 12% 再增加项数，对提高预测准确率几乎没有效果(in Alpha 21164) Correlating Branch Predicator 例如： if (aa==2) aa=0; if (bb==2) bb=0; if (aa!=bb) { 翻译为DLX SUBI R3,R1,#2 BNEZ R3,L1 ; branch b1 (aa!=2) ADDI R1,R0,R0 ;aa=0 L1: SUBI R3,R2,#2 BNEZ R3,L2 ;branch b2(bb!=2) ADDI R2,R0,R0 ; bb=0 L2: SUBI R3,R1,R2 ;R3=aa-bb BEQZ R3,L3 ;branch b3 (aa==bb) Correlating Branches 观察结果：b3 与分支b2 和b1相关。如果b1和b2都分支失败，则b3一定成功。 Correlating predictors 或 两级预测器：分支预测器根据其他分支的行为来进行预测。 工作原理：根据一个简单的例子我们来看其基本原理 if (d==0)d=1;