2009并行计算与多核程序设计07-08多核对线程支持.ppt

并行计算与多核程序设计理论课7-8 多核对线程的支持 陈天洲，施青松，胡威 {tzchen, zjsqs, ehu}@ 2009年12月4日，玉泉校区曹西101 Agenda 多线程在多核上的加速能力 多线程对单线程的修改 加速多线程程序 处理器对多线程的硬件支持 多核存储管理对多线程的影响 核间通讯对多线程的影响 超线程对多线程的影响 多线程程序对硬件平台选型 多核多线程程序 线程化的优点 创建速度较进程快 资源利用率高 便于数据共享 线程化的缺点 增加程序设计的复杂性 程序调试较难 数据竞争、同步、死锁 多线程的执行 硬件多线程 每个线程运行在不同逻辑处理器上 优先级相同 硬件的通信开销 真正的并行执行 软件多线程 运行在同一个逻辑处理器上 OS动态改变优先级 共享本地存储器 通信开销小 互斥容易解决 数据流程图 对于数组运算 E = A*(B+C*D); 其中，A、B、C和D都是具有n个元素的数组 案例 1个计算任务在单个核的计算机上运行的启动时间为1秒，运算时间为10秒，数据结果汇总的时间为1秒。如果将该计算任务放在多核处理器的计算机上运行，将运算部分分解成多个线程并行执行。 （1）假如任务的启动和数据汇总操作不能并行执行，运算部分可以进行任意的任务分解，任务之间的通信量可以忽略，也不考虑任务分解后存储系统对性能的影响。问在处理器核的数量分别为2、4、8、16时的任务执行时间和加速比。 （2）上述情况下，假如每两个处理器核之间的通信时间为0.1秒，每对处理器核的通信串行进行，问在核的数量分别为2、4、8、16时的任务执行时间和加速比。 解：（1） 任务在单个核的计算机上运行时间为12秒； 在双核计算机上的运行时间为1+10/2+1 = 7秒，加速比为12/7 = 1.71； 在4核计算机上的运行时间为1+10/4+1 = 4.5秒，加速比为12/4.5 = 2.67； 在8核计算机上的运行时间为1+10/8+1 = 3.25秒，加速比为12/3.25 = 3.69； 在16核计算机上的运行时间为1+10/16+1 = 2.63秒，加速比为12/2.63 = 4.56。 解：（2） 任务在单个核的计算机上没有通信时间，运行时间为12秒； 在双核计算机上的通信时间为1?0.1，运行时间为1+10/2+1+0.1 = 7.1秒，加速比为12/7.1 = 1.69； 在4核计算机上的通信时间为6?0.1=0.6，运行时间为1+10/4+1+0.6 = 5.1秒，加速比为12/5.1 = 2.35； 在8核计算机上的通信时间为28?0.1=2.8，运行时间为1+10/8+1+2.8 = 6.05秒，加速比为12/6.05 = 1.98； 在16核计算机上的通信时间为120?0.1=12，运行时间为1+10/16+1+12 = 14.63秒，加速比为12/14.63 = 0.82，即比单核计算机的计算时间更长。 解 Agenda 多线程在多核上的加速能力 多线程对单线程的修改 加速多线程程序 处理器对多线程的硬件支持 多核存储管理对多线程的影响 核间通讯对多线程的影响 超线程对多线程的影响 多线程程序对硬件平台选型 多核程序员需要仔细加载多线程到多核上，以提高性能 需要优化代码，充分利用处理器资源 需要修改哪些内容？ 1、存储缓存，解决伪共享问题 2、线程优先级 伪共享 伪共享, false share 多核处理器访问内存位置 包含所请求内存位置的一部分实际内存（缓存代码行）被复制到高速缓存中 将来可满足对同一内存位置（时间局部性）或其周围位置（空间局部性）的引用 直至系统决定有必要保持高速缓存和内存之间的一致性 单核会运行很好。 然而多核情况不同了 同时来自不同核的相同缓存代码行中的单个元素更新 会使整个缓存代码行无效，即使这些更新在逻辑上是彼此独立的 每次对缓存代码行的单个元素进行更新时，都会将此代码行标记为无效 其他访问同一代码行中不同元素的处理器将看到该代码行已标记为无效，即使所访问的元素未被修改，也会强制它们从内存或其他位置获取该代码行的较新副本 原因 基于缓存代码“行”保持缓存一致性，而不是针对“单个元素”的 后果 互连通信和开销方面都将有所增长 正在进行缓存代码行更新的时候，禁止访问该代码行中的元素 在出现以下所有情况时，伪共享会使性能下降 由多个处理器修改共享数据。 多个处理器更新同一缓存代码行中的数据。 这种更新发生的频率非常高（例如，在紧凑循环中） 注意，在循环中只读状态的共享数据不会导致伪共享 case study 当多进程程序操作同一个int型数组int a[100]时 如果进程0只访问a[0]，进程1只访问a[1]，进程2只访问a[2]，... 每个进程不应该发生数据共享 因为一