并行计算前景展望.pdf

千万亿次时代应用的挑战 3 并行计算前景展望  美国加州大学伯克利分校 并行计算实验室  陈文浩[译]上海大学计算机学院 上海  姚继锋[校]上海超级计算中心 上海201203jfyao@ 面对向并行计算的巨大转变，计算机工业需要 发现功率的瓶颈后，设计师不得不寻求一种 在研究机构的帮助下取得成功。而一旦失败则可能 新的模式来应对日益增加的性能需求。业界决定， 危及IT行业以及那些依赖于快速发展信息技术的多个 一个唯一可行的选择是在同样一个芯片上，用多个 经济领域。在这里，我们回顾这个问题，并且作为 高效处理器来取代单一低效的处理器。整个微处理 一个例子，描述U.C. Berkeley并行计算实验室研究开 器行业于是宣布，随着处理器或者内核数的增加， 发的一种综合方法，以应对并行带来的挑战。 其未来发展是在并行计算上，每一代技术在两年左 在过去的60年里，IT行业将串行计算的性价比 右。这种芯片的形式被称为多核微处理器。因此， [20] 提升了近100亿倍 。过去20年里，硅技术以每18个 向多核的跃升，并非是一种基于编程或架构的突 月性能提升一倍的速度发展，而处理器架构师充分 破，而事实上是对构造高效率、高时钟频率、单核 [5] 利用了这种快速增加的晶体管速度和空间。在硬件 芯片这样更加艰巨的任务的一种缓兵之计 。 和软件之间隐含的一个契约是，只要维持现有的顺 在过去几年，许多初创公司出售并行计算机， 序/串行编程模型，晶体管数量的增加和功耗都是没 但都失败了，因为习惯了在顺序执行中性能得到不 有问题的。这个契约，导致了晶体管和功耗方面上 断改善的程序员认为没有必要去探索并行。Convex， 革新效率的低下，诸如多指令问题、深度流水线、 Encore，Floating Point，Inmos，Kendall Systems 乱序执行、推测执行、预取等，但在串行编程模型 Square ， ResearchMasPar，nCUBE，Sequent，Silicon 不变的情况下确实带来了性能的提升。 Graphics，Thinking Machines，他们是已经死掉的并 这个契约一直没有问题，直到我们达到了一个 行计算机领域中最有名的一些成员。鉴于这种悲惨 芯片所能消耗的功率极限。图1绘制了2005年国际技 的历史，处处存在着关于多核的悲观看法。引用斯 术路线图(ITRS)展示的微处理器时钟频率以及短短两 坦福大学校长、计算先锋John Hennessy的话来说： [16] 年后的时钟频率，反映了这个突如其来的变化 。 “……当我们开始谈论并行化和真正易于使用 2005年时的预测是在2008年，时钟频率将超过 的并行计算机时，这个问题比任何科学计算都来的 10GHz，在2010年达到15GHz。值得注意的是，现如 困难。……如果我在这个行业，我将感到很恐慌。” 今Intel产品远远低于2007年的保守预测。 IT行业的危机，也意味着研究机构的机遇。如 果研究人员能够应对这个并行挑战，那IT行业的未来 将是美好的。但如果他们不能，那它将不再美好。