53降低CACHE失效率的方法.pptVIP

4. 例题 例5.7 Alpha AXP 21064采用指令预取技术，其实际失效率是多少？若不采用指令预取技术，AlphaAPX 21064的指令Cache必须为多大才能保持平均访存时间不变？ 解： 假设从预取缓冲器中找到所需指令需多花1个时钟周期。 平均访存时间预取 ＝命中时间＋失效率×预取命中率×1 ＋失效率×(1－预取命中率)×失效开销 5.3 降低Cache 失效率的方法 假设： 预取命中率＝25％  命中时间＝1个时钟周期 失效开销＝50个时钟周期 由表5.4可知，8KB指令Cache的失效率＝1.10％ 故平均访存时间预取 ＝1＋(1.10 %×25 %×1)＋ (1.10 %×(1－25 %)×50) ＝1＋0.00275＋0.4125  ＝1.415 由公式： 平均访问时间＝命中时间＋失效率×失效开销 5.3 降低Cache 失效率的方法 可得相应的失效率为： 失效率＝(平均访问时间－命中时间)/失效开销 ＝(1.451－1)/50＝0.83％ 8KB Cache 带预取的8kB Cache 失效率 1.10％ 0.83％ 16KB Cache 0.64％ 5.3 降低Cache 失效率的方法 5.3.6 由编译器控制的预取 1. 预取的类型 ◆ 寄存器预取：把数据取到寄存器中 ◆ Cache预取： 只将数据取到Cache中 ◆ 故障性预取：预取时，若出现虚地址故障 或违反访问权限，就会发生异常。 ◆ 非故障性预取：预取时，若出现虚地址故 障或违反访问权限，并不会导致异常，只 是转变为“不预取”。 由编译器加入预取指令，在数据被用到之前发出预取请求。 5.3 降低Cache 失效率的方法 4. 例题 2. 在预取数据的同时，处理器应能继续执行 只有这样，预取才有意义。 非阻塞Cache (非锁定Cache) 3. 循环是预取优化的主要对象 失效开销小时：循环体展开1～2次 失效开销大时：循环体展开许多次 5.3 降低Cache 失效率的方法 例 5.8 对于下面的程序，判断哪些访问可能会导致数据Cache失效。然后，加入预取指令以减少失效。最后，计算所执行的预取指令的条数以及通过预取避免的失效次数。假定： (1) 我们用的是一个容量为8KB、块大小为 16B的直接映象Cache，它采用写回法并 且按写分配。 (2) a、b分别为3×100(3行100列)和101×3 的双精度浮点数组，每个元素都是8个 字节。当程序开始执行时，这些数据都 不在Cache内。 5.3 降低Cache 失效率的方法 for (i＝0 ; i 3 ; i＝i＋1 ) for (j＝0 ; j 100 ; j＝j＋1 ) a[i][j]＝b[j][0]×b[j＋1][0]; 解： (1) 计算过程 (2) 失效情况 总的失效次数＝251次 (3) 改进后的程序 5.3 降低Cache 失效率的方法 for (j＝0，j＜100；j＝j＋1) { prefetch (b[j＋7][0]);  /* 预取7次循环后所需的b(j ,0 ) */ prefetch (a[0][j＋7]);  /* 预取7次循环后所需的a(0,j ) */ a[0][j]＝b[j ][0] * b [j＋1][0] } for (i＝1; i 3; i＝i＋1) { for (j＝0; j 100; j＝j＋1) prefetch(a[i][j＋7]); /* 预取7次循环后所需的a(i , j ) */ a[i][j]＝b[j][0] * b[j＋1][0]; } 5.3 降低Cache 失效率的方法 例 5．9 在以下条件下，计算例5.8中所节约的时间： (1) 忽略指令Cache失效，并假设数据Cache 无冲突失效和容量失效。 (2) 假设预取可以被重叠或与Cache失效重 叠执行，从而能以最大的存储带宽传送 数