让读失效优先于写课件.ppt

?秦杰 郑丽萍 张庆辉 *／19 ?秦杰 郑丽萍 张庆辉 *／19 5.4.1 让读失效优先于写 5.4 减少Cache失效开销 1. Cache中的写缓冲器导致对存储器访问的 复杂化 2. 解决问题的方法(读失效的处理) ◆ 推迟对读失效的处理 (缺点：读失效的开销增加，如50％) ◆ 检查写缓冲器中的内容 3. 在写回法Cache中，也可采用写缓冲器 第五章 存储层次 5.4.2 子块放置技术 1. 为减少标识的位数，可采用增加块大小的 方法，但这会增加失效开销，故应采用子 块放置技术。 2. 子块放置技术：把Cache块进一步划分为更 小的块(子块)，并给每个子块赋予一位有 效位，用于指明该子块中的数据是否有效。 Cache与下一级存储器之间以子块为单位传 送数据。但标识仍以块为单位。 3. 举例 (动画演示) 5.4 减少Cache 失效开销 5.4.3 请求字处理技术 1. 请求字 从下一级存储器调入Cache的块中，只有 一个字是立即需要的。这个字称为请求字。 2. 应尽早把请求字发送给CPU ◆ 尽早重启动：调块时，从块的起始位置开 始读起。一旦请求字到达，就立即发送给 CPU，让CPU继续执行。 ◆ 请求字优先：调块时，从请求字所在的位 置读起。这样，第一个读出的字便是请求 字。将之立即发送给CPU。 5.4 减少Cache 失效开销 3. 这种技术在以下情况下效果不大： ◆ Cache块较小 ◆ 下一条指令正好访问同一Cache块的另 一部分 5.4 减少Cache 失效开销 5.4.4 非阻塞Cache技术 1. 非阻塞Cache：Cache失效时仍允许CPU进行 其它的命中访问。即允许“失效下命中”。 2. 进一步提高性能：“多重失效下命中” “失效下失效” (存储器必须能够处理多个失效) 3. 重叠失效个数对平均访问时间的影响 5.4 减少Cache 失效开销 非阻塞Cache平均存储器等待时间 与阻塞Cache的比值 1 2 浮点程序 76％ 51％ 64 39％ 整数程序 81％ 78％ 78％ 重叠失效个数 5.4 减少Cache 失效开销 对于图5.18所描述的Cache，在两路组相联和“一次失效下命中”这两种措施中，哪一种对浮点程序更重要？对整数程序的情况如何？ 假设8KB数据Cache的平均失效率为： 对于浮点程序，直接映象Cache为11.4%，两路组相联Cache为10.7%； 对于整数程序，直接映象Cache为7.4%，两路组相联Cache为6.0%。并且假设平均存储器等待时间是失效率和失效开销的积，失效开销为16个时钟周期。 例 5.11 5.4 减少Cache 失效开销 对于浮点程序，平均存储器等待时间为： 失效率直接映象×失效开销＝11.4%×16＝1.82 失效率两路组相联×失效开销＝10.7%×16＝1.71 1.71/1.82＝0.94 对于整数程序： 失效率直接映象×失效开销＝7.4 %×16＝1.18 失效率两路组相联×失效开销＝6.0 %×16 ＝0.96 0.96/1.18=0.81 解： 5.4 减少Cache 失效开销 5.4.5 采用两级Cache 1. 应把Cache做得更快？还是更大？ 答案：二者兼顾，再增加一级Cache ◆ 第一级Cache(L1)小而快 ◆ 第二级Cache(L2)容量大 2. 性能分析 平均访问时间 ＝命中时间L1＋失效率L1×失效开销L1 ＝命中时间L1＋失效率L1× (命中时间L2＋失效率L2×失效开销L2) 5.4 减少Cache 失效开销 3. 局部失效率与全局失效率 局部失效率＝该级Cache的失效次数/到达 该级Cache的访问次数 例如：上述式子中的失效率L2 全局失效率＝该级Cache的失效次数/CPU 发出的访存的总次数 全局失效率L2＝失效率L1×失效率L2 评价第二级Cache时，应使用全局失效率 这个指标。 5.4 减少Cache 失效开销 例5.12 假设在1000次访存中，第一级Cache失效40次， 第二级Cache失效20次。试问：在这种情况下，该 Cache系统的局部失效率和全局失效率各是多少？ 解 第一级Cache的失效率（全局和局部）是40/