天津大学并行计算3.pdfVIP

内存系统，多线程 于策 17/2/28 /orgs/hpclab/ China Research Laboratory Outline §  内存系统对性能的影响 § 多线程基本概念 § Pthread多线程 § 实例分析 – 计算数组中“3”出现的次数 17/2/28 /orgs/hpclab/ China Research Laboratory Outline §  内存系统对性能的影响 § 多线程基本概念 § Pthread多线程 § 实例分析 – 计算数组中“3”出现的次数 17/2/28 /orgs/hpclab/ China Research Laboratory 内存系统对性能的影响 § 对于很多应用而言，瓶颈在于内存系统，而不是CPU §  内存系统的性能包括两个方面：延迟和带宽 – 延迟：处理器向内存发起访问直至获取数据所需要的时间 – 带宽：内存系统向处理器传输数据的速率 17/2/28 /orgs/hpclab/ China Research Laboratory 延迟和带宽的区别 §  考虑消防龙头的情形。如果打开消防龙头后2秒水才从消防水管 的尽头流出，那么这个系统的延迟就是2秒。 §  当水开始流出后，如果水管1秒钟能流出5加仑的水，那么这个 水管的“带宽”就是5加仑/秒。 §  如果想立刻扑灭火灾，那么更重要是减少延迟的时间。 §  如果是希望扑灭更大的火，那么需要更高的带宽。 17/2/28 /orgs/hpclab/ China Research Laboratory 内存延迟示例 § 考虑某一处理器以1GHz （1纳秒时钟）运行，与之相连 的DRAM有100纳秒的延迟（没有高速缓存）。假设处 理器有两个multiply-add部件，在每1纳秒的周期内能执 行4条指令。 – 处理器的峰值是4GFLOPS 。 –  由于内存延迟是100个周期，并且块大小为一个字 （word ），每次处理内存访问请求时，处理器必须要等待 100个周期，才能够获得数据。 17/2/28 /orgs/hpclab/ China Research Laboratory 内存延迟示例 § 在以上平台上，考虑计算两个向量点积的问题。 – 计算点积对每对向量元素进行一次乘法-加法运算，即每 一次浮点运算需要取一次数据。 – 此计算的峰值速度的限制是，每100纳秒才能够进行一次 浮点计算，速度为10MFLOPS，只是处理器峰值速度的很 小一部分。 17/2/28 /orgs/hpclab/ China Research Laboratory 使用高速缓存改善延迟 § 高速缓存是处理器与DRAM之间的更小但更快的内存 单元 – 低延迟高带宽的存储器 § 如果某块数据被重复使用，高速缓存就能减少内存 系统的有效延迟 §  由高速缓存提供的数据份额称为高速缓存命中率(hit ratio ) – 高速缓存命中率严重影响内存受限程序的性能 17/2/28 /orgs/hpclab/ China Research Laboratory 高速缓存 17/2/28 /orgs/hpclab/ Ch