并行程序设计Chapte的r-1H.pptVIP

二、性能度量(1/2) ① 执行时间(execution time) 完成一个并行计算所花费的时间 另一个常用指标 FLOPS(floating-point operations per second)：浮点运算次数/秒 1GFlops = 109次浮点运算/秒，10亿次 1TFlops = 1000GFlops，万亿次 1PFlops = 1000TFlops，千万亿次 1EFlops = 1000PFlops，百亿亿次 常用做衡量处理器和并行计算机计算性能的指标 峰值性能(peak performance)：理想状态可达到的最高性能 应用性能：应用程序实际运行获得每秒浮点运算次数 常用有代表性的基准测试程序，如Linpack、Lapack、NPB等 不同处理器指令系统有差异性， MIPS(million instructions per second)指标难以客观地反映处理器计算性能 1.3 并行性与程序性能 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 二、性能度量(2/2) ② 加速比(speedup) 常用来衡量并行加速的效果，以及随处理器/任务数增长的变化情况 超线性加速比(superlinar speedup) 某些情形下，计算能获得超过线性的加速比 大多是由于并行后每节点访问的数据集变小，cache命中率提高 加速比(speedup)是度量一个并行程序性能和可扩展性的常用指标 1.3 并行性与程序性能 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 第一章 概 述 刘 轶 北京航空航天大学 计算机学院 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 1.1 并行化的现状与未来 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 1.1 并行化的现状与未来 一、并行的威力和潜力 并行的目的 加快计算速度 传统程序中的并行性 大多数编程语言的语义体现为顺序执行 程序都假设指令是按顺序执行的 提升串行程序性能的方法：隐式并行(hidden parallelism) 为加快程序执行速度，在程序执行过程中部分操作被并行执行，并对程序透明 指令级并行(ILP—Instruction Level Parallelism) 举例：计算(a + b) * (c + d)时，(a+b)和(c+d)可以分别并行计算 隐式并行由编译和系统结构支持 多级流水、多发射、乱序执行、… 问题：隐式并行的发掘有极限，支持隐式并行的处理器硬件也存在极限 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 二、多核处理器带来的问题 摩尔定律(Moore’s Law) Intel公司创始人Gordon Moore首先提出 主要内容：集成电路上可容纳的晶体管数目大约每18个月增加一倍 通常认为，其集成电路性能每18个月也增加一倍 摩尔定律从1960年代延续至今 摩尔定律并不是科学定律，而是技术-经济定律 摩尔定律在很大程度上推动了包括计算机技术在内的信息技术的发展 摩尔定律还能走多远？ 在可预见的10～15年仍将延续 新材料、新工艺、… 1.1 并行化的现状与未来 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile . Copyright 2004-2011 Aspose Pty Ltd. 在单核处理器时代，提升处理器性能的主要方法： 提升主频 1978：8086 5MHz 2005：P4 3.2GHz 多种指令级并行技术(ILP—Instruction level Parallelism) 多级流水、多发射和乱序执行(out-of-order execution)等 占用了大量硅片面积 增加c