5.2 CACHE基本重点知识.ppt

(3) 分离Cache平均失效率的计算： 访问指令Cache的百分比×指令Cache的失效率 ＋访问数据Cache的百分比×数据Cache的失效率 5.2.6 Cache性能分析 2. 平均访问时间 平均访问时间＝命中时间＋失效率×失效开销 1. 失效率 例5.1 假设Cache的命中时间为1个时钟周期，失效开销为50 个时钟周期，在混合Cache中一次load或store操作访问Cache的命中时间都要增加一个时钟周期(因为混合Cache只有一个端口，无法同时满足两个请求。按照前一章中有关流水线的术语，混合Cache会导致结构冲突)，根据表5－4所列的失效率，试问指令Cache和数据Cache容量均 为16KB的分离Cache和容量为32KB的混合Cache相 5.2 Cache 基本知识 解： 如前所述，约75%的访存为取指令。因此，分离Cache的总体失效率为： (75%×0.64%)＋(25%×6.47%)＝2.10% 根据表5－4，容量为32KB的混合Cache的失效率略低一些，只有1.99%. 比，哪种Cache的失效率更低？又假设采用写直达策略，且有一个写缓冲器，并且忽略写缓冲器引起的等待。请问上述两种情况下平均访存时间各是多少？ 5.2 Cache 基本知识 *／46 *／46 5.2 Cache基本知识 1．存储空间分割与地址计算 5.2.1 映象规则 1. 全相联映象 全相联：主存中的任一块可以被放置到 Cache中的任意一个位置。 举例 对比： 阅览室位置 ── 随便坐 特点： 空间利用率最高，冲突概率最低， 实现最复杂。 2．Cache和主存分块 5.2 Cache 基本知识 2. 直接映象 ◆ 直接映象：主存中的每一块只能被放置到 Cache中唯一的一个位置。 举例 (循环分配) ◆ 对比：阅览室位置 ── 只有一个位置可 以坐 ◆ 特点：空间利用率最低，冲突概率最高， 实现最简单。 ◆ 对于主存的第i 块，若它映象到Cache的第 j 块，则: j＝i mod (M ) （M为Cache的块数） 5.2 Cache 基本知识 ◆ 组相联：主存中的每一块可以被放置到Cache 中唯一的一个组中的任何一个位置。 举例 ◆ 组相联是直接映象和全相联的一种折衷 ◆ 设M＝2m，则当表示为二进制数时，j 实际 上就是i 的低m 位： 3. 组相联映象 m位 j i： 5.2 Cache 基本知识 ◆ 上述的j 和k 通常称为索引 ◆ 组的选择常采用位选择算法 若主存第i 块映象到第k 组，则: k＝i mod（G） （G为Cache的组数） 设G＝2g，则当表示为二进制数时，k 实 际上就是i 的低 g 位： g 位 k i： 5.2 Cache 基本知识 ◆ 绝大多数计算机的Cache: n ≤4 想一想：相联度一定是越大越好？ ◆ n 路组相联：每组中有n 个块(n＝M/G ) n 称为相联度。 相联度越高，Cache空间的利用率就越高， 块冲突概率就越低，失效率也就越低。 全相联 直接映象 　组相联 n (路数) G (组数) M M 1 1 1＜n＜M 1＜G＜M 5.2 Cache 基本知识 5.2.2 查找方法 1. 如何确定Cache中是否有所要访问的块？ 若有的话如何确定其位置？ 答案 5.2 Cache 基本知识 ◆ 目录表的结构 ◆ 只需查找候选位置所对应的目录表项 ◆ 并行查找与顺序查找 ◆ 提高性能的重要思想：主候选位置(MRU块)  前瞻执行 ◆ 并行查找的实现方法： 5.2 Cache 基本知识 举例： ４路组相联并行标识比较 （比较器的个数及位数） 相联存储器 单体多字存储器＋比较器 ◆ ４路组相联Cache的查找过程 ◆ 直接映象Cache的查找过程 5.2.3 替换算法 所要解决的问题：当新调入一块，而Cache又已被占满时，替换哪一块？ 2. FIFO 3. LRU 优点：失效率低 LRU和随机法的失效率的比较 1. 随机法 优点：实现简单 5.2 Cache 基