第三章主存储器系统分解.pptVIP

为解决CPU和主存之间的速度差距，提高整机的运算。 解决的问题 将CPU当前快要用到的部分数据块由主存复制到容量小、速度快的SRAM中。 功能 Cache结构 2 透明性 由于转换速度快，软件人员丝毫未感到Cache的存在 分块 由主存分块，每块N个字节，Cache也分同样大小的块；由于Cache存储容量小，所以块的数目少。 Cache结构(续) 2 Cache的命中率 3 ?Cache的命中率 指CPU所要访问的信息在cache中的比率。 ?Cache的失效率 所访问的信息不在cache中的比率。 概念 1 Cache的存储容量设置多大合适？ 思考 答：既不能太小，也不能太大。 命中率 Cache大小 临界点 2 如何计算Cache访问时间？ 答：若tc表示命中时的Cache访问时间，tM表示未命中时的主存访问时间，1-h表示未命中率，则Cache-主存系统的平均访问时间为 ta =h*tc+(1-h)*(tc +tM) CPU Cache 主存 3 如何提高内存访问效率？ 答：为提高访问效率，h 接近1好。 Cache的命中率 3 Cache的命中率 3 例：CPU执行一段程序时，Cache完成存取的次数为1900次，主存完成存取的次数为100次，已知cache存取周期为50ns，主存存取周期为250ns，求Cache-主存系统的命中率及平均访问时间。 H = Nc/(Nc+Nm) = 1900/(1900+100) = 0.95 ta = 0.95×50+(250+50)*0.05 = 62.5ns Cache的命中率h是多少？ 解题步骤 1 Cache的访问时间ta是多少？ 2 4 Cache中保存的字块是主存中相应字块的一个副本。 保持一致性的原因 ?优点：保证主存和Cache内容相同，方法简单可靠。 ?缺点：对Cache更新的同时要写主存，速度会受影响。 CPU Cache 主存 保持一致的方法 写直达法：每次写操作中，同时写入 Cache和主存。 1 Cache结构一致性 Cache结构一致性(续) 4 CPU Cache 主存 写回法：先将需要更新的内容写入Cache，并做标记，直至被修改的字块从Cache中被替换出去时，才一次性的将Cache内容写入主存。 2 ?优点：对Cache更新时，速度不会受影响。 ?缺点：无法保证主存和Cache内容同步。 Cache存储器的组织 5 虽然要访问的数据在Cache中，但如何确定它在Cache中的准确存储位置。 需解决的问题 解决方法 在主存地址和Cache地址之间建立确定的逻辑关系——地址映像。 ?直接映像 ?全相联映像 ?组相联映像 三种基本影像方法 Cache的映像方式 6 ?原理：把主存地址空间映像到Cache地址空间，即按某种规则把主存的块复制到Cache中。 ?规则：页号对块号取余 直接映像 00块 01块 10块 11块 Cache 000页 001页 010页 011页 100页 101页 110页 111页 主存 直接映像评价 ?优点：方便快速查找。 ?缺点： Cache利用率不高。 Cache的映像方式(续) 6 00块 01块 10块 11块 Cache 000页 001页 010页 011页 100页 101页 110页 111页 主存 ?原理：主存中任何一个块均可以映像装入到Cache中的任何一个块的位置上。 全映像 全映像评价 ?优点： Cache利用率高。 ?缺点：查找时间长。 三种方法哪种好？ Cache的映像方式(续) 6 00块 01块 10块 11块 Cache 000页 001页 010页 011页 100页 101页 110页 111页 主存 ?原理：组相连映像是前两种方式的折衷。 ?规则：组间为直接映像，组内为全映像。 组映像 全映像评价 ?优点：Cache利用率较高，查询速度较快。 ?缺点：实现较为复杂。 Cache置换技术 7 Cache的容量远远小于内存 置换原因 最佳置换算法(Optimal) 置换算法 最近最久未使用置换算法(LRU) 先进先出置换算法(FIFO) 算法名称 Cache置换技术 8 最佳置换算法(Optimal) 所选择的被淘汰的是以后永久不用,或许是最长时间不被使用的。 实现方法 7 0 1 2 0 3 0 4 2 3 0 3 2 1 2 0 1 7 0 1 7 0 1 2 0 3 0 4 2 3 0 3 2 1 2 0 1 7 0 1 命中率高 优 算法评价 不能实现 缺 先进先出置换算法(FIFO) 所选择的被淘汰的是最先进入的 实现方法 算法简单,易实现 算法评价 命中率低 7 0 1 2 0 3 0 4 2 3 0 3 2 1 2 0 1 7 0 1 7 0 1 2 0