第九篇 章 MIMD计算机 《计算机系统结构》.pptVIP

2003.3.1 计算机系统结构 * 第九章 MIMD计算机(P499) MIMD计算机与SIMD计算机的主要区别，在于SIMD只能在同一时刻做多件相同的事情，而MIMD却可以在同一时刻做多件相同或不同的事情（多指令流所致），所以求解同一个问题时采用MIMD将能实现更大比例的并行操作，即处理效率更高。 从并行处理的级别看，SIMD是数据级并行处理，流水线是指令级并行处理，MIMD是任务级并行处理。 由于技术上的原因，目前实现的MIMD计算机都是多处理机系统，包括多计算机系统。 多处理机系统由多台处理机连接而成，它们能够并行执行独立的程序模块，并且相互通信和同步，以实现作业、任务级的并行。 CU2 CU1 CUn PUn PU2 PU1 MMn MM2 MM1 IS1 IS1 IS2 IS2 ISn DS1 ISn DS2 DSn 多指令流多数据流MIMD 9.1 MIMD的典型结构(P500) 多处理机系统通常包含多个处理机模块、多个存储器模块、多个I/O通道，这些设备与单处理机系统中的设备没有本质不同，最大的差别是互连网络和多机操作系统。 由于多处理机系统是在作业、任务级并行，处理机之间的通信不像SIMD系统那样频繁和急迫，所以互连网络可以采用通用网实现，以便在满足流量需要的前提下降低成本。 (1)共享存储器方案（紧耦合型） P500图9.1(a)。 存储器和I/O设备是独立的子系统，通过互连网络为所有的处理机共享。 (2)分布存储器方案（松耦合型） P500图9.1(b)。每台处理机有自己的存储器和I/O设备。 处理机之间的信息交换通过互连网络。 它有多个控制器，至少有多个指令部件，用以对各个PE实现单独的控制，而又相互协调配合。 多处理机的外围设备要能够被多个PE分别调用，因而要通过互连网络转接，而不像并行处理机的外围设备那样统一访问主存储器。 并行处理机由于主要完成数组向量运算，它的PE和MM之间的数据交往比较有规则，互连网络的作用主要放在数据对准上，功能简单；多处理机的互连网络必须满足各个PE随机地访问主存储器的要求，连接模式、频带和路径选择等问题都要复杂。 多处理机属任务级并行，SIMD属于数据级并行。 多处理机与并行处理机（SIMD）的主要区别 ? 进程同步 并行处理机是操作级的并行，所有处于活动状态的处理单元同时执行共同的指令，受同一个控制器控制，工作自然同步。 多处理机所实现的是指令、任务、程序级的并行。在同一时刻，不同的处理机执行着不同的指令。要区分进程之间的多种不同的依赖关系。要求多处理机采取特殊的同步措施，使并发进程之间保持程序所要求的正确顺序。 ? 资源分配和进程调度 处理机执行并发任务，需用处理机的数目没有固定要求，各个处理机进入或退出任务的时刻互不相同，所需共享资源的品种、数量又随时变化，情况十分复杂，需要好的资源分配和进程调度策略。 9.2 MIMD的并行程序控制(P608) (1)任务派生语句 ─── 当前运行的进程向操作系统申请创建一个新进程，并试图用一个空闲处理机来运行它。如果操作系统没有找到空闲处理机资源，则让新进程排队等待。 格式： FORX 进程名 (2)任务汇合语句 ─── 检查包括当前进程在内的各先期并发进程是否完成，如未完成则停止当前进程，释放其处理机资源，如已完成则让当前进程继续执行，通常是转入后继进程。汇合语句的每次执行会对一个计数器加1（该计数器初值为0），直至达到语句所要求的汇合进程数。 格式：JOIN 汇合进程数，计数器序号 9.2 MIMD的并行程序控制(P608) 实例：x = ( a + b )×( a - c ) 我们设想用3个进程来完成上式中3个运算，则它们之间的相关关系可用数据相关图来描述（右图）。 并行程序可用Fork/Join语句写成如下形式： k: Fork k+3 k+1: Add A,B,T1 k+2: Goto k+4 k+3: Sub A,C,T2 k+4: Join 2,1 k+5: Mul T1,T2,X 该程序在2台处理机的MIMD系统上运行的时空关系可用资源时间图表示（假设进程k执行时间大于进程k+3）。 9.4 MIMD的加速性能模型(P502～P512) (1)两个处理机的并行模型（P504）； 总处理时间 = R×max{ M-K，K } + C×( M-K )×K 其中： M ── 任务总数； K ── 分配给处理机1的任务数； R ── 执行1个任务所需时间； C ── 进行1次通信所需时间。 最优解：P505第1～3行。