多核编程中的难题.docVIP

多核编程中的锁竞争难题 为了简化起见，我们先看一个简单的情况，假设有4个对等的任务同时启动运行，假设每个任务刚开始时有一个需要锁保护的操作，耗时为1，每个任务其他部分的耗时为25。这几个任务启动运行后的运行情况如下图所示： 图1：对等任务的锁竞争示意图 在上图中，可以看出第1个任务直接执行到结束，中间没有等待，第2个任务等待了1个时间单位，第3个任务等待了2个时间单位，第3个任务等待了3个时间单位。 这样有3个CPU总计等待了6个时间单位，如果这几个任务是采用OpenMP里的所有任务都在同一点上进行等待到全部任务执行完再向下执行时，那么总的运行时间将和第四个任务一样为29个时间单位，加速系数为：（1＋4×25）/ 29 ＝ 3.48 即使以4个任务的平均时间27.5来进行计算，加速系数＝101/27.5 = 3.67 按照阿姆尔达定律来计算加速系数的话，上述应用中，串行时间为1，并行处理的总时间转化为串行后为100个时间单位，如果放在4核CPU上运行的话，加速系数＝p / (1 + (p-1)*f) ＝ 4/(1+(4-1)*1/101) = 404/104 = 3.88 这就产生了一个奇怪的问题，使用了锁之后，加速系数连阿姆尔达定律计算出来的加速系数都不如，更别说用Gustafson定律计算的加速系数了。 其实可以将上面4个任务的锁竞争情况推广到更一般的情况，假设有锁保护的串行化时间为1，可并行化部分在单核CPU上的运行时间为t，CPU核数为p，那么在p个对成任务同时运行情况下，锁竞争导致的总等待时间为：1＋2＋…＋p ＝ p*(p-1)/2 耗时最多的一个任务所用时间为： p + t/p 使用耗时最多的一个任务所用时间来当作并行运行时间的话，加速系数如下 S(p) = (t+1) / (p + t/p) = p*(t+1) / (p*p+t) （锁竞争下的加速系数公式） 这个公式表明在有锁竞争情况下，如果核数固定情况下，可并行化部分越大，那么加速系数将越大。在并行化时间固定的情况下，如果CPU核数越多，那么加速系数将越小。 还是计算几个实际的例子来说明上面公式的效果： 令t=100, p=4, 加速系数＝4×(100 +1)/ (4*4+100) = 3.48 令t=100, p=16, 加速系数＝16×(100+1) / (16*16+100) = 4.54 令t=100, p=64, 加速系数＝64×(100+1) / (64*64+100) = 1.54 令t=100, p=128, 加速系数＝128×(100+1) / (128*128+100) = 0.78 从以上计算可以看出，当核数多到一定的时候，加速系数不仅不增加反而下降，核数增加到128时，加速系数只有0.78，还不如在单核CPU上运行的速度。 上面的例子中，锁保护导致的串行代码是在任务启动时调用的，其实对等任务中在其他地方调用的锁保护的串行代码也是一样的。 对等型任务的锁竞争现象在实际情况中是很常见的，比如服务器软件，通常各个客户端处理任务都是对等的，如果在里面使用了锁的话，那么很容易造成上面说的加速系数随CPU核数增多而下降的现象。 以前的服务器软件一般运行在双CPU或四CPU机器上，所以锁竞争导致的加速系数下降现象不明显，进入多核时代后，随着CPU核数的增多，这个问题将变得很严重，所以多核时代对程序设计提出了新的挑战。以前的多任务下的编程思想放到多核编程上不一定行得通。 所以简单地认为多核编程和以前的多任务编程或并行计算等同的话是不切实际的，在讲串行化难题的那篇文章中提出了一些解决方面的对策，但是那些对策还有待业界继续努力才能做得到。 当然由于目前市面上销售的多核CPU还是双核和四核的，等到16核以上的CPU大规模进入市场可能还有几年时间，相信业界在未来的几年内能够对于上面对等任务上的锁竞争问题找到更好的解决方案。 多核编程中的线程分组竞争模式 在多核编程中，锁竞争导致的CPU饥饿现象是引起多核CPU性能无法发挥的最重要原因之一，在多核编程中的锁竞争难题一文中已经讲过锁竞争对性能的影响，如何消解锁竞争导致的CPU饥饿现象成了迫切需要解决的问题。 目前业界发展的无锁编程技术可以有效降低锁竞争引起的性能下降问题，无锁编程主要是采用原子操作来替代锁，只存在原子操作竞争问题，由于原子操作只是一条指令，速度非常快，因此可以近似地看成是无锁竞争的，除非原子操作非常频繁。无锁编程难度非常高，从目前的情况来看，普通程序员要亲自进行无锁编程是不现实的事情。并且目前只有少数数据结构可以实现无锁编程，从目前商用的无锁编程库NOBLE来看，只提供了队列、栈、链表、词典、带引用计数的垃圾回收内存管理等少数几种无锁编程结构，只能解决部分锁竞争问题，这个库的售价高昂，