并行计算机与并行算法的基本原理.docVIP

第2章 并行计算机与并行算法的基本原理 2.1并行计算机的基本结构 2.1.1并行化是数值计算的必然趋势 1. 物理局限 2. 算法对内存的需求 3. 经济因素 4. 大规模集成电路的发展 5. 并行计算机的发展 2.1.2并行计算机的系统结构 1. 冯·诺依曼计算机 图2.1冯·诺依曼计算机结构 2. 并行计算机系统组成 图2.2现代计算机结构 2.1.3并行机系统结构分类 图2.3 SISD单处理机结构 图2.4带分布式存储器的SIMD并行计算机结构 图2.5带共享存储器的MIMD并行计算机结构 1. 共享存储型多处理机 图2.6搏动式阵列结构MISD计算机 图2.7 UMA结构计算机Sequent Symmetry 图2.8 NUMA结构计算机BBN Butterfly 图2.9 COMA结构计算机KSQ-1 2. 分布存储型多计算机——消息传递型多计算机系统 图2.10分布存储型多计算机结构并行机 3. 并行计算机系统结构沿革简介 2.1.4计算机程序性能的系统属性 1. 时钟频率和CPI 2. 性能因子 3. 系统属性与性能的关系 4. MIPS速率 5. 吞吐率 2.2程序逻辑拓扑和计算机数据通信网络拓扑的基本特性 2.2.1并行性分析 1. 数据的相关性 图2.11流相关 图2.12反相关 图2.13输出相关 图2.14I/O相关 图2.15程序的数据相关举例 2. 控制相关 3. 资源相关 4. Bernstein条件 图2.16例2.2的相关图 图2.17选用的器件一个时间步执行一条语句 图2.18选用的器件一个时间步可以实现两个加法 5. 并行性和调度 图2.19用2个单发射处理机组成一个双处理机系统 图2.20软硬件并行性适配 2.2.2系统互连结构 1. 网络参数 2. 数据寻址功能 3. 静态连接网络 图2.21线性阵列网络 图2.22环和带弦环网络结构 图2.23循环移数网络 图2.24二叉树网络 图2.25星形网络 图2.26二叉胖树网络 图2.27网格形网络 图2.28环形网络 图2.29Illiac网络 图2.30搏动式阵列网络 图2.31超立方网络 图2.32带环超立方结构和超立方结构的结点度比较 4. 动态连接网络 图2.33Sequent Symmetry S1 的总线结构 图2.34多级开关的结构 2.3.1描述及度量并行性能的指标 1. 并行度 2. 平均并行性 图2.35某一算法的并行度分布图 3. 有效并行性及渐进加速比 4. 调和平均性能及调和平均值加速比 2.3.2评价并行计算性能的参数 1. 系统效率 2. 冗余度和利用率 3. 并行性质量 4. 并行计算机性能的测量标准 2.4并行计算的可扩展性原理 2.4.1并行计算机应用模式 图2.36并行计算机应用的4种模式 图2.37 4种应用模式的并行计算效率曲线 图2.38并行计算机应用的4种模式对应的效率 2.4.2并行算法的可扩展性 1. 恒定效率及恒定效率函数 2. 加速比性能定律 2.4.3根据性能价格比决定计算机系统的规模 图2.39建造并行计算机时TC与结点机的个数N的关系 2.4.4并行机软件概述 1. 并行机语言 图2.40基于顺序计算机语言的并行机语言 2. 并行优化编译器 图2.41并行优化编译器 3. 计算机复杂系统的时空特性 图2.42计算机复杂系统的时空特性 图2.43计算机系统的时空特性与实际问题的程序结构的逻辑复杂度的匹配关系 6 数据结构(C++版) 19 计算机辅助绘图基础（第4版）