第一章高等计算机的核心技术——并行处理概要.ppt

高等计算机系统结构 高等计算机系统结构 第一章 高等计算机的核心技术——并行处理 第二章 加速比性能模型与可扩展性分析 第三章 互连与通信 第四章 划分与调度 第五章 并行存储器系统 第六章 Cache Coherence 第七章 Memory Consistency 第八章 指令级并行处理 第一章 高等计算机的核心技术——并行处理 1.1 什么是并行处理 1.1.1 并行处理定义 1.1.2 并行性级别 1.2 为什么要开发并行处理技术 1.3 并行处理计算机结构沿革 1.4 其它并行处理计算机技术 第一章 高等计算机的核心技术——并行处理 1.1 什么是并行处理 1.2 为什么要开发并行处理技术 1.3 并行处理计算机结构沿革 1.4 其它并行处理计算机技术 第二章 加速比性能模型与可扩展性分析 2.1 加速比性能分析 2.1.1 一般概念 2.1.2 加速比 2.1.3 三种加速比性能模型 2.2 可扩展性分析 2.1 加速比性能模型 2.1.1 一般概念 1.处理机—时间积 处理机数目与处理时间的乘积用以度量这些处理机运行时的资源利用率。 若一程序在?P台处理机上运行的时间为Tp，则此P台处理机在Tp时间间隔内完成的工作最大数量为Tp * P。 可将处理机实际工作曲线对时间的积分看成是这些处理机完成的有效工作量。 效率为有效工作量与最大工作量之比。 2.并行度（Degree Of Parallelism—DOP） 并行度（DOP）是在一定时间间隔内执行一个程序所用的处理机的数目。 3.并行性分布图 执行一个给定的程序时DOP对时间的分布图。 DOP与对应时间的间隔之积即为处理机要完成的工作或工作负载。 下图所示为一个并行性分布图。 2.1.2 加速比 1. 绝对加速比 将最好的串行算法与并行算法相比较. 定义一（与具体机器有关）将最好的串行算法在一台上的运行时间与并行算法在N台运行的时间相比。 定义二（与具体机器无关）将最好的串行算法在最快的顺序机上的执行时间与并行算法在并行机上的运行时间相比。 2.相对加速比 同一并行算法在单节点上运行时间与在多个相同节点构成的处理机系统上的运行时间之比。 这种定义侧重于描述算法和并行计算机本身的可扩展性。 2.1.3 三种加速比性能模型 1.固定负载加速比性能模型—Amdahl定律 在许多实时应用领域，计算负载的大小常固定。在并行机中，此负载可分布至多台并行执行，获得的加速比称为fixed-load speedup。一个问题的负载可表示如下： W = Ws + Wp 其中，Ws代表问题中不可并行化的串行部分负载， Wp表示可并行化的部分负载。 则n个节点情况下，加速比可以表示如下： 设串行因子α为串行部分所占的比例。即 效率En可以表示为： 结论：加速比曲线随α的上升急剧下降，原因是存在顺序部分Ws，无法用增加系统的处理机数目来解决。这一性质在过去二十年间给人们造成了对并行处理非常悲观的印象。 影响：两种意见： 1.劝阻制造商生产大规模并行计算机。 2.研究并行编译器，以降低α的值，从而提高系统的性能。 规定负载加速比模型的可能应用范围： 对时间要求严格的应用问题。 第二章 加速比性能模型与可扩展性分析 2.1 加速比性能分析 2.2 可扩展性分析 2.2.1 可扩展性 2.2.2 可扩展性分析 第三章 互连与通信 3.1 互连网络的作用 3.2 静态网络 3.3 动态网络 3.4 通信问题 3.1 互连网络的作用 定义：由开关元件按一定拓扑结构和控制方式构成的网络以实现计算机系统内部多个处理机或多个功能部件间的相互连接。 操作方式： 同步通信（Synchronous Communication) 异步通信(Asynchronous Communication) 控制策略： 集中控制(Centralized control) 分布控制(Distributed control) 第三章 互连与通信 3.1 互连网络的作用 3.2 静态网络 3.2.1 静态网络的特点与指标 3.2.2 典型的静态网络 3.3 动态网络 3.4 通信问题 第三章 互连与通信 3.1 互连网络的作用 3.2 静态网络 3.3 动态网络 3.3.1 互连函数 3.3.2 多级互联网络 3.4 通信问题 第三章 互连与通信 3.1 互连网络的作用 3.2 静态网络