系统结构第五章存储层次.pptVIP

5.4.5 两级Cache 1. 应把Cache做得更快？还是更大？ 答案：二者兼顾，再增加一级Cache ◆ 第一级Cache(L1)小而快 ◆ 第二级Cache(L2)容量大 2. 性能分析 平均访问时间 ＝命中时间L1＋失效率L1×失效开销L1 ＝命中时间L1＋失效率L1× (命中时间L2＋失效率L2×失效开销L2) 3. 局部失效率与全局失效率 局部失效率＝该级Cache的失效次数/到达 该级Cache的访问次数 例如：上述式子中的失效率L2 全局失效率＝该级Cache的失效次数/CPU 发出的访存的总次数 全局失效率L2＝失效率L1×失效率L2 局部失效率一般不能反映对提高系统实际运行性能所发挥的作用,因此评价第二级Cache时，一般使用全局失效率这个指标。 4. 当第二级Cache比第一级Cache大得多时，两 级Cache的全局失效率和第二级Cache相同的  单级Cache的失效率非常接近。 5. 第二级Cache的参数 第二级Cache不会影响CPU的时钟频率， 因此其设计有更大的考虑空间。 两个问题： ◆ 能否降低CPI中的平均访存时间部分？ ◆ 成本是多少？ (1) 容量 第二级Cache的容量一般比第一级的 大许多，如512KB  假设： 预取命中率＝25％  命中时间＝1 个时钟周期 失效开销＝50个时钟周期 由表5－4可知，8KB指令Cache的失效率＝1.10％ 故平均访存时间预取 ＝1＋(1.10 %×25 %×1)＋ (1.10 %×(1－25 %)×50) ＝1＋0.00275＋0.4125  ＝1.415 由公式： 平均访问时间＝命中时间＋失效率×失效开销 可得相应的失效率为： 失效率＝(平均访问时间－命中时间)/失效开销 ＝(1.451－1)/50＝0.83％ 8KB Cache 带预取的8kB Cache 失效率 1.10％ 0.83％ 16KB Cache 0.64％ 关键：预取应建立在存储器的空闲频带 5.3.6 由编译器控制的预取 1. 预取的类型 ◆ 寄存器预取：把数据取到寄存器中 ◆ Cache预取： 只将数据取到Cache中 ◆ 故障性预取：预取时，若出现虚地址故障 或违反访问权限，就会发生异常。 ◆ 非故障性预取：预取时，若出现虚地址故 障或违反访问权限，并不会导致异常，只 是转变为“不预取”。 由编译器加入预取指令，在数据被用到之前发出预取请求。 4. 例题 2. 在预取数据的同时，处理器应能继续执行 只有这样，预取才有意义。 非阻塞Cache (非锁定Cache) 3. 循环是预取优化的主要对象 失效开销小时：循环体展开1～2次 失效开销大时：循环体展开许多次 例 5.8 对于下面的程序，判断哪些访问可能会导致数据Cache失效。然后，加入预取指令以减少失效。最后，计算所执行的预取指令的条数以及通过预取避免的失效次数。假定： (1) 我们用的是一个容量为8KB、块大小为 16B的直接映象Cache，它采用写回法并 且按写分配。 (2) a、b分别为3×100(3行100列)和101×3 的双精度浮点数组，每个元素都是8个 字节。当程序开始执行时，这些数据都 不在Cache内。 for (i＝0 ; i 3 ; i＝i＋1 ) for (j＝0 ; j 100 ; j＝j＋1 ) a[i][j]＝b[j][0]×b[j＋1][0]; 解： (1) 计算过程 (2) 失效情况 数组a 数组b 总的失效次数＝251次 (3) 改进后的程序(设预取的开销比较大，需提 前 7 次循环进行) for (j＝0，j＜100；j＝j＋1) { prefetch (b[j＋7][0]);  /* 预取7次循环后所需的b(j ,0 ) */ prefetch (a[0]