第一章并行计算机体系结构-Read.PDFVIP

第一章并行计算机体系结构 在介绍并行算法及其软件设计之前，必须先介绍一下并行计算机与分布式并行的一些基 本知识。目前国内这方面的资料不是很完善，为此，本章将阐述一下并行计算机体系结构的 一些基本知识。 1.1 并行计算机定义 简单地讲，并行计算机就是由多个处理单元( 以下也称为处理器，或简称为CPU)组成 的计算机系统，这些处理单元相互通信和协作能快速、高效的求解大型复杂问题。 定义中涉及的问题： a) 并行计算机的规模：, 例如处理单元有多少，这就涉及到系统是小规模的(十个或几 十个) 、中规模的(上百个)和大规模的(成千上万个) 的问题； b) 处理单元的功能：处理单元的功能有多强，这就涉及到系统的组织策略是 平行对称 的“蚁军法”(Army of Ants)或是一种主从的形式 “象群法”(Hert of Elephants) 的问 题； c) 处理单元之间怎样连接，这就涉及到系统是按照什么样的拓朴结构彼此互连起来的 问题； d) 处理单元的数据是如何传递的，这就涉及到通信是按照共享变量方式的或消息传递 方式的问题。 e) 各处理单元彼此相互协作共