失效开销( 时钟周期) cache 容量.ppt

5.4.3 请求字处理技术 1. 请求字 从下一级存储器调入Cache的块中，只有一个字是立即需要的。这个字称为请求字。 2. 应尽早把请求字发送给CPU ◆ 尽早重启动：调块时，从块的起始位置开始读起。一旦请求字到达，就立即发送给 CPU，让CPU继续执行。 ◆ 请求字优先：调块时，从请求字所在的位置读起。这样，第一个读出的字便是请求字。将之立即发送给CPU。 5.4 减少Cache失效开销 3. 这种技术在以下情况下效果不大： ◆ Cache块较小 ◆ 下一条指令正好访问同一Cache块的另一部分。 5.4 减少Cache失效开销 5.4.4 非阻塞Cache技术 1. 非阻塞Cache：Cache失效时仍允许CPU进行 其它的命中访问。即允许“失效下命中” 2. 进一步提高性能：“多重失效下命中”， “失效下失效” (存储器必须能够处理多个失效) 3. 重叠失效个数对平均访问时间的影响 5.4 减少Cache失效开销 非阻塞Cache平均存储器等待时间与阻塞Cache的比值 1 2 浮点程序 76％ 51％ 64 39％ 整数程序 81％ 78％ 78％ 重叠失效个数 5.4 减少Cache失效开销 对于图5.18所描述的Cache，在两路组相联和“一次失效下命中”这两种措施中，哪一种对浮点程序更重要？对整数程序的情况如何？ 假设8KB数据Cache的平均失效率为： 对于浮点程序，直接映象Cache为11.4%，两路组相联Cache为10.7%； 对于整数程序，直接映象Cache为7.4%，两路组相联Cache为6.0%。并且假设平均存储器等待时间是失效率和失效开销的积，失效开销为16个时钟周期。 例 5.11 5.4 减少Cache失效开销 对于浮点程序，平均存储器等待时间为： 失效率直接映象×失效开销＝11.4%×16＝1.82 失效率两路组相联×失效开销＝10.7%×16＝1.71 1.71/1.82＝0.94 对于整数程序，平均存储器等待时间为： 失效率直接映象×失效开销＝7.4 %×16＝1.18 失效率两路组相联×失效开销＝6.0 %×16 ＝0.96 0.96/1.18=0.81 结论: 对浮点运算采用“一次失效下命中”措施比采用“两路组相联”技术更有效. 解： 5.4 减少Cache失效开销 5.4.5 两级Cache 1. 应把Cache做得更快？还是更大？ 答案：二者兼顾，再增加一级Cache ◆ 第一级Cache(L1)小而快 ◆ 第二级Cache(L2)容量大 2. 性能分析 平均访问时间 ＝命中时间L1＋失效率L1×失效开销L1 ＝命中时间L1＋失效率L1× (命中时间L2＋失效率L2×失效开销L2) 5.4 减少Cache失效开销 3. 局部失效率与全局失效率 局部失效率＝该级Cache的失效次数/到达 该级Cache的访问次数 全局失效率＝该级Cache的失效次数/CPU 发出的访存的总次数 全局失效率L2＝失效率L1×失效率L2 局部失效率一般不能反映对提高系统实际运行性能所发挥的作用,因此评价第二级Cache时，一般使用全局失效率这个指标。它指出了在CPU发出的访存中，究竟有多大比例是穿过各级Cache，最终到达存储器的。 5.4 减少Cache失效开销 5.4 减少Cache失效开销 例5.12 假设在1000次访存中，第一级Cache失效40次， 第二级Cache失效20次。试问：在这种情况下，该Cache系统的局部失效率和全局失效率各是多少？ 解 第一级Cache的失效率（全局和局部）是 40/1000， 即4%； 第二级Cache的局部失效率是20/40，即50%； 第二级Cache的全局失效率是20/1000，即2%。 4. 当第二级Cache比第一级Cache大得多时，两 级Cache的全局失效率和第二级Cache相同的  单级Cache的失效率非常接近。 5.4 减少Cache失效开销 5. 第二级Cache的参数 第二级Cache不会影响CPU的时钟频率， 因此其设计有更大的考虑空间。 两个问题： ◆ 能否降低CPI中的平均访存时间部分？ ◆ 成本是多少