基于访问模式的核级Cache优化方法（.docVIP

基于访问模式的多核末级Cache优化方法( 刘胜，陈海燕，葛磊磊，刘仲 （国防科学技术大学 计算机学院，湖南 长沙 410073） 摘要：多核处理器架构已经成为当前处理器的主流趋势，应用程序中访问模式的多样性给多核处理器的末级Cache带来了许多挑战。提出了一种基于访问模式的多核末级Cache优化方法，它包含“可配置的共享私有Cache划分”、“可配置的旁路Cache策略”和“优先权替换策略”三个协同递进的层次。通过使用该方法，程序员能够灵活地改变末级Cache执行行为，从而高效地适应应用程序访问模式的变化。实验结果表明，提出的方法能够显著降低末级Cache的缺失率，进而提高系统的整体性能。 关键词：多核处理器；末级Cache；访问模式；共享私有Cache划分；旁路Cache；优先权替换 中图分类号：TP302 文献标志码：A An optimization Method for Multi-core Last Level Cache Based on the Memory Access Modes LIU Sheng, CHEN Haiyan, GE Leilei, LIU Zhong (College of Computer, National University of Defense Technology, Changsha 410073, China) Abstract: Multi-core architectures have been broadly utilized in current processors. Meanwhile, the diversity of memory access modes in applications brings challenges to the last level cache in multi-core processors. An optimization method for LLC based on the access modes is proposed in this paper. This method includes three coordinated and progressive levels: 1) the configurable share/private cache partition, 2) the configurable bypass cache policy, and 3) the priority replace policy. Using this method, programmers can neatly alter the behavior of the LLC to effectively adapt the variety of memory access modes in applications. Experiment results show that the proposed method can observably decrease the miss rate of the LLC and increase the system performance of the processor. Keywords: multi-core; last level cache; access mode; share/private cache partition; bypass cache; priority replacement 当前处理器架构已经由“单核”时代进入“多核”时代[1]。现代多核处理器设计中，普遍采用多级Cache来缓解“存储墙”问题。片上末级Cache（Last Level Cache，LLC）一般支持多个核共享地访问，是多核处理器存储层次的关键组成部分。如何有效地管理和利用LLC将会对于整个系统的性能产生重要影响。 随着应用需求的不断扩展和变化，应用程序中访问模式的多样性给多核处理器的LLC带来了许多挑战。文献[2]将应用程序中的访存模式分为四种，即友好访问模式、流式访问模式、颠簸访问模式及混合访问模式。其中友好访问模式是指短时间内会重复访问某一段数据，这种模式具有良好的时空局部性。流式访问模式是指某段数据块只会被访问一次，这种模式的将会引起强制性缺失并且命中率较低。颠簸访问模式是指周期性地访问某段长度的数据块，但是其长度超过Cache的容纳范围，导致数据块未被访问就被替换出Cache。混合访问模式是上述三种模式综合混合的结果。在多核环境下由于不同的核对共享/私有数据的同时访问，上述访问模式变得愈发复杂多样，从而导致了LLC的性能得不到有效发挥，迫切需要更高效LLC的管理和控制策略