Cache基础知识介绍课件.pptVIP

什么是cache;两极cache相比较而言，L1 cache的容量小，但数据存取速度较快，L2 cache的容量大，但数据存取速度较慢。部分系统中也存在三级cache的结构。;Cache的作用是什么; 指令地址 …… 96 loop: ADD r2, r1, r1 100 SUBI r3, r3, #1 104 BNEZ r3, loop 108 …… 112;CPU运行程序是一条指令一条指令地执行的，而且指令地址往往是连续的，意思就是说CPU在访问内存时，在较短的一段时间内往往集中于某个局部，这时候可能会碰到一些需要反复调用的子程序。系统在工作时，把这些活跃的子程序存入比主存快得多的cache 中。 CPU在访问内存时，首先判断所要访问的内容是否在cache中，如果在，则称为命中（hit），此时CPU直接从cache中调用该内容；否则称为未命中（miss）， CPU会通过cache对主存中的相应内容进行操作。;Cache的地址映射方式;全相联方式 地址映射规则：主存的任意一块可以映射到cache中的任意一块 (1) 主存与cache分成相同大小的数据块。 (2) 主存的某一数据块可以装入cache的任意一块空间中。 优点：命中率比较高，cache存储空间利用率高。 缺点：访问相关存储器时，每次都要与全部内容比较，速度低，成本高，因而应用少。;直接相联方式 地址映射规则： 主存储器中一块只能映射到cache的一个特定的块中。 (1) 主存与cache分成相同大小的数据块。 (2) 主存容量应是cache容量的整数倍，将主存空间按cache的容量分成区，主存中每一区的块数与cache的总块数相等。 (3) 主存中某区的一块存入cache时只能存入缓存中块号相同的位置。 优点：地址映射方式简单，数据访问时，只需检查区号是否相等即可，因而可以得到比较快的访问速度，硬件设备简单。 缺点：替换操作频繁，命中率比较低。;组相联映射方式 地址映射规则： (1) 主存和cache按同样大小划分成块。 (2) 主存和cache按同样大小划分成组。 (3) 主存容量是cache容量的整数倍，将主存空间按cache区的大小分成区，主存中每一区的组数与cache的组数相同。 (4) 当主存的数据调入cache时，主存与cache的组号应相等，也就是各区中的某一块只能存入cache的同组号的空间内，但组内各块地址之间则可以任意存放， 即从主存的组到cache的组之间采用直接映射方式；在两个对应的组内部采用全相联映射方式。 优点：块的冲突概率比较低，块的利用率大幅度提高，块失效率明显降低。缺点：实现难度和造价要比直接映射方式高。;阉有坟岗鳖孜湍屑惦讽归榷嚼讳闽引算详珠萌掌勒品寇桶亮烹抱艳恶夹船Cache基础知识介绍课件Cache基础知识介绍课件;块:块是cache与主存的传输单位。 路（way）: 路是组相联映射方式的cache结构中的基本存储单位，每一路存储一个块的数据。 组（entry）:组是组相联映射方式的cache对块进行管理的单位。 区 （tag） :块的地址对应的主存储器中的区。 块内偏移地址（offset）: 用来标示块内一个字节的地址。 组相联映射方式下主存储器的地址空间由，区，组和块内偏移地址组成。;组相联映射方式下cache的内部结构。;Cache的替换算法;随机(RAND)法是随机地确定替换的存储块。设置一个随机数产生器，依据所产生的随机数，确定替换块。这种方法简单、易于实现，但命中率比较低。 先进先出(FIFO)法是选择那个最先调入的那个块进行替换。当最先调入并被多次命中的块，很可能被优先替换，因而不符合局部性规律。这种方法的命中率比随机法好些，但还不满足要求。 近期最少使用(LRU)法是依据各块使用的情况，总是选择那个最近最少使用的块被替换。这种方法比较好地反映了程序局部性规律，命中率最高。;如何提高cache的性能;影响命中率的硬件因素主要有以下四点： Cache的容量。 Cache与主存储器交换信息的单位量（cache line size）。 Cache的组织方式 Cache的替换算法 ;代码段A for(i=0;i