计算机组成原理（修订版） 教学课件 作者 竺士蒙 主编 柳 祎 副主编 8.PPTVIP

1、CACHE基本原理 1.1、CACHE基本概念 CACHE是一种高速缓冲存储器，是为了解决CPU和主存之间速度不匹配而采用的一项技术，如图所示。 1.2、CACHE技术思想 CACHE除了有存储体外，还有控制逻辑（包括相联存储器和控制器）。 CACHE与CPU交换数据以字为单位 CACHE与内存交换数据以块为单位 内存与CPU交换数据以字为单位 1.3、 CACHE的命中率 CPU访问CACHE系统时，如果数据几乎都由CACHE送给CPU，CPU几乎都能命中CACHE，命中率为1，那么CPU访问内存的时间接近CPU访问CACHE的时间。由于程序的局部性，实现这个目标是可能的。 CPU执行一程序， CACHE完成存取的总次数为1900次，内存完成存取的总次数100次，已知CACHE存取周期为50ns，内存存取周期为250ns，求CACHE/内存系统的效率和平均访问时间。 命中率: h=1900÷(1900+100)=0.95 平均访问时间t=50×0.95+250×0.05=60ns 效率: ?=50÷60=83% 2. 内存与CACHE的地址映射 CACHE与内存相比容量小，它保存的数据只是内存的数据的一个子集，为了把内存的块放到CACHE中，必须用某种方法把内存地址定位到CACHE中，称做地址映射，有三种方式: 全相联映射、直接映射和组相联映射 全相联映射 CPU访问内存和CACHE时，给出的内存地址包括块号和块内字地址，块号直接与CACHE中的标记部分的块号比较，如果相符，则命中，按字地址在CACHE中读取该字，否则，未命中，在内存中读取该字，并把这个块调入到CACHE中。 3. 替换策略 CACHE工作原理要求它尽量保存最新数据，当一个新的内存块需要拷贝到CACHE，而允许存放此块的行位置都被其它内存点满时，就产生替换。 其替换策略主要有以下三种：最不经常使用(LFU)算法、近期最少使用(LRU)算法和随机替换算法。 近期最少使用(LRU)算法 将近期内长久未被访问过的行换出 每行也设置一个计数器，但它们是CACHE每命中一次，命中行计数器清0，其它各行计数器加1。当需要替换时，比较各特定行的计数值，将最大的行换出，符合CACHE工作原理，命中率较高。 作业1：3.8、习题1 （8）~（12）作业2：预习3.6 * 1. CACHE基本原理 2. 内存与CACHE的地址映射 3. 替换策略 3.5 CACHE存储器 要点 * 图1.7 一个三级存储器系统 CPU CACHE 内存 外存 CACHE由高速SRAM组成，容量比内存小，约500倍，速度比内存快，约5倍。 CPU CACHE存储体 内存 相联存储器 CACHE控制器 地址 数据 若CACHE的容量是16个字，分4块，一块4个字。 CPU访问内存时，同时访问CACHE；CACHE的控制器判断此字在CACHE中吗？若是，此字由CACHE传送给CPU。若非，此字由内存传送给CPU，同时把含有该字的整个数据块从内存读到CACHE（可能先要把CACHE中部分数据调到内存，以便腾出空间） 相联存储器保存着在CACHE中的数据的内存地址，只要CPU送内存地址到相联存储器，CACHE控制器通过比较就知道此字在不在CACHE中。 程序的局部性（程序局部性原理） 程序和数据在内存中的存放具有局部性，相对于整个内存空间来说，程序和数据连续地放在一起，是一小撮。 程序内部的运行也有局部性，程序是顺序运行的，相邻的指令往往是近期就要被CPU访问的指令。 在一个程序执行期，设NC是CACHE完成存取的总次数，Nm是内存完成存取的总次数，H定义为命中率，则 Nc H=---------------- Nc+Nm 　CACHE 　 内存 标记 如图所示。 CACHE分成8行，内存分成256块（行与块都为512个字）。 CACHE中的标记部分存它的块号（标记部分8位，对应256块）。