CMP中Cache私有方式下副本容量动态控制.docVIP

CMP中Cache私有方式下副本容量动态控制摘要：CMP中二级Cache多采用分布式结构，其中有两种基本管理方式：共享方式和私有方式。共享方式能最大程度利用二级Cache容量空间但却有高的平均访问延迟；私有方式能提供低访问延迟，但由于数据块副本的存在减少了Cache有效容量，因而增加了Cache缺失率。本文提出了基于私有方式的副本动态控制策略，能根据实际应用程序的执行程序情况动态控制副本数据块的数量，从而提高二级Cache性能。 关键词：Cache；副本；动态控制 中图分类号：TP311.52 文献标识码：A 文章编号：1007-9599 (2012) 10-0000-02 一、引言 随着开发指令级并行的空间正在减少，再加上对功耗关注程度的增加，单处理器发展的速度日渐缓慢，片上多处理器成为时代的主流。片上多处理器与存储器之间性能差距依然较大，因而有效的组织和管理Cache系统至关重要。目前片上多处理器中最外层cache（大多为二级Cache）有两种组织方式：私有和共享。对于私有的组织方式，由于核主要访问靠近自身的私有cache，因而访问cache延迟小，但允许存在数据块副本导致cache容量的浪费，从而致使访问cache命中率降低，造成了大量的片外访问存储。对于共享的组织方式，由于数据块均匀分布在各cache中，因而核要经常访问远处cache。致使核平均访问chche延迟较大，但命中率却高。 针对这个问题，国外大学已作了些研究，提出了很多混合私有和共享组织方式的结构。Cooperative Caching[1]、CMP-NuRAPID[2]都是以私有cache组织方式为基础，解决私有方式中命中率低的问题。Cooperative Caching将二级cache数据块分为两种：唯一存在的数据块和有副本的数据块。在替换数据时，优先考虑无效的数据块和有副本的数据块，这样就可减少大量的数据块副本。但Cooperative Caching也明显存在着一些不足。首先，Cooperative Caching受到集中式目录表的限制不便于扩大，随着核的数量增长，这种机制将变得不适应。再次，集中式目录表的硬件花费太大。最后，Cooperative Caching的替换机制是先将有副本的数据块替换出去，而保留唯一存在的数据块。这种机制比较盲目，因为好多存在副本的数据块是要经常被访问的，而某些唯一存在的数据块，却只被访问一次。CMP-NuRAPID有效的控制共享数据块副本的个数，并通过集中式目录有效的利用整个二级cache空间。动态数据块的迁移、改变共享度、Cache片的动态分配等是基Cache共享方式的，主要改善共享方式中访问延迟长。 基于私有方式策略的共同点是合理的减少副本数量，上述策略均是静态按照某种策略去控制数据副本数量，不能根据实际执行程序情况动态控制数据副本数量。本文通过动态监测程序执行情况，从而判断是否需要控制副本数量，进而通过监测信息的判断，是否有必要减少数据块副本。 二、CMP中工作集的分析 私有方式下多个核对共享数据的访问则会产生数据块副本，数据块副本用来减少访问共享数据延迟，然而数据块副本对cache空间造成浪费。针对不同大小的工作集，本文分析数据块副本对cache性能影响的大小，从而探究有效控制数据块副本容量的必要性。分析是基于多个商用和科学计算的测试程序在8个核上的Solaris10系统中的测试，实验部分会详述实验的具体设计。 为分析数据块副本所占空间对cache性能的影响，本文设计一种极端情况：给每个二级cache添加一个数据块副本区，数据块副本区是用来专门存储数据块副本，从其他二级cache读入的数据块副本将保存在副本区中，副本区容量为无限大。如此数据块副本将不会影响cache的命中率。本文模拟私有方式和副本区方式两种情况，分析比对不同的测试程序在这两种情况的命中率。 从实验数据可以看出：lu、radix、fft、ocean这些测试程序的缺失率的比率基本趋于1，这说明副本区提高不了这些测试程序的命中率。如fft这类测试程序的工作集比较小，二级cache空间已足够使用，故无需副本区。如ocean这类测试程序，其工作集较大，但是线程之间的共享变量少，从而使得副本很少，故副本区也不能提高命中率。所以，在上述两种情况下，在测试程序执行中控制副本容量对提高cache命中率基本起步到任何作用。Clonesky、water、bares、apache这些测试程序的缺失比率都相当高，特别是apache，其工作集比较大，又有大量的副本，执行过程中副本被存储在副本区中，从而不去替换cache中的数据，可明显减少cache的缺失率。在这种情况下若能有效的控制副本容量，将能明显提高cache的命中率。综上可以