体系结构第5章 第6讲.ppt

* 怎样理解：子块失效开销小于完整块的失效开销？ 在写直达策略里： 1。对子块读失效，要作废块里的所有有效子块，读回新的一个子块，更新tag； －－如果子块大小是原来块大小的1/n，可能增大失效率 （可能把其它子块也作废了） 2。对子块写失效，要作废块里的所有有效子块，写一个新的子块，更新tag，并把子块写回主存； －－如果子块大小是原来块大小的1/n，可能增大失效率（可能把其它子块也作废了，失效开销还是写回一个子块的开销） 在写回策略里： 1。对子块读失效，要作废并写回所有有效子块，读回新的一个子块，更新tag； －－可能增大失效率，如子块大小等于原来的块大小，失效开销就是原来几倍块写回的开销，如果子块大小是原来块大小的1/n，失效开销就是原来的x/n 2。对子块写失效，要作废并写回所有有效子块，写一个新的子块，更新tag； 同上 * 引入写缓冲时的优化策略。 为防止乱序访存，要查找或等待写缓冲。 * 引入写缓冲时的优化策略。 为防止乱序访存，要查找或等待写缓冲。 * 尽早启动的性能增益和后续访问模式有很大关系。 * 注意失效率所对应的级别。 * 局部失效率适于评价局部某一级的性能，不能评价全局。 * 二级cache中的问题和一级cache一样，但侧重点不同。 * 取整：不是整周期无法实现硬件控制。 * 这种方法大大加大了硬件的开销，但广泛采用。 * 命中时间的影响太大。 * 优化技术的成熟度和应用广泛度不同。 计算机体系结构 计算机体系结构 国家精品课程：计算机体系结构 第五章：存储层次 国防科技大学计算机学院 主讲人： 副教授 5.2　Cache基本知识 5.3 降低Cache失效率的方法 5.4　减少Cache失效开销 5.1　存储器的层次结构 5.5　减少命中时间 5.6　主存 5.7　虚拟存储器 本章内容 5.4 减少Cache失效开销 写缓冲及写合并 让读失效优先于写 子块放置技术 请求字处理技术 多级Cache 非阻塞Cache技术 写直达Cache中，因为所有的写请求都必须发送到下级存储层次中，所以经常使用一个写缓冲来降低失效开销。 如何提高写缓冲的效率和利用率？ 写合并 5.4.1 写缓冲及写合并 3. 在写回法Cache中，也可采用写缓冲器 1. Cache中的写缓冲器导致对存储器访问的 复杂化 2. 解决问题的方法(读失效的处理) 推迟对读失效的处理及到写缓冲排空 (缺点：读失效的开销增加) 检查写缓冲器中的内容：增加硬件 5.4.2 让读失效优先于写 5.4.3 子块放置技术 把Cache块进一步划分为更小的块(子块)，并给每个子块赋予一位有效位，用于指明该子块中的数据是否有效。  Cache与下一级存储器之间以子块为单位传送数据。但标识仍以块为单位。 1. 请求字 从下一级存储器调入Cache的块中，只有一个字是立即需要的。这个字称为请求字。 2. 应尽早把请求字发送给CPU 尽早重启动：调块时，从块的起始位置开始读起。一旦请求字到达，就立即发送给CPU，让CPU继续执行。 请求字优先：调块时，从请求字所在的位置读起。这样，第一个读出的字便是请求字。将之立即发送给CPU。 5.4.3 请求字处理技术 3. 这种技术在以下情况下效果不大： Cache块较小 下一条指令正好访问同一Cache块的另一部分。 1. 应把Cache做得更快？还是更大？ 答案：二者兼顾，再增加一级Cache 第一级Cache(L1)小而快 第二级Cache(L2)容量大 2. 性能分析 平均访问时间＝命中时间L1＋失效率L1×失效开销L1 ＝命中时间L1＋失效率L1× (命中时间L2＋失效率L2×失效开销L2) 5.4.4 多级Cache 3. 局部失效率与全局失效率 局部失效率＝该级Cache的失效次数/到达该级Cache 的访问次数 例如：上述式子中的失效率L2 全局失效率＝该级Cache的失效次数/CPU发出的访存 的总次数 全局失效率＝失效率L1×失效率L2 评价多级Cache时，应使用全局失效率这个指标 4. 当第二级Cache比第一级Cache大得多时，两级Cache的 全局失效率与容量和第二级Cache 相同的单级Cache的 失效率非常接近。 5. 第二级Cache的参数 第二级Cache不会影响CPU的时钟频率，因此其设计 有更大的考虑