第1章5节讲义2004年11月23日.pptVIP

哈尔滨工业大学计算机科学与技术学院 并行处理与体系结构 第一章 并行计算机模型 ?1 计算技术的现状 ?2 多处理机和多计算机 ?3 多向量机和SIMD计算机 ?4 并行计算机的抽象模型 ?5 可扩展的范围和设计 ?5 可扩展的范围和设计 一、可扩展性范围 二、可扩展设计原理 一、可扩展性范围 说明： 系统伸缩：增加或减少系统资源。 这里假定并行处理计算机的体系中的结点均为单一处理器结点 可扩展性范围包括： 资源可扩展性 应用可扩展性 技术可扩展性 1. 资源可扩展性 资源可扩展性是指通过增加处理器数、更多的存储部件(高速缓存，存，磁盘)以及增加软件等方法，使系统具有更高性能或功能。涉及三方面： 规模可伸缩性 资源扩展 软件可扩展性 （1）规模可伸缩性： 规模可伸缩性与处理器数相关联。 扩展一个计算机系统---增加机器规模（处理器数）。 不同并行计算机规模可扩展能力不同。 限制并行系统可扩展性的两个主要因素是： 程序设计及通信。 示例： 在1997年时： 一个对称多处理机(SMP)系统最多能扩展到大约64个处理器； 一个IBM SP2并行机能扩展到最多具有512个处理器。 当前的并行计算机规模的扩展： 加入更多处理器； 增加互连网络、接口以及通信软件在内的子系统。 有效地利用更大并行性，即如何为扩大的系统进行编程。 （2）资源扩展 增加处理器数不是唯一方式。 保持处理器数不变； 通过增加更多存储容量、更大的芯片外高速缓存以及更大容量磁盘等方法来扩展系统。 例题：IBM SP2中的存储器需求 当Maui高性能计算中心(MHPCC)决定升级它的具有400个结点的SP2系统时，它选择了增加存储器和磁盘容量方法，而不是增加更多结点数方法。 下表概述了所扩展的存储容量。 要求： 系统必须设计成能允许扩展这么多的容量。 实际系统总有一个最大存储器容量的上限。例如： IBM SP2中的每个结点最多可容纳2GB存储器； CrayT3D为64MB。 （3）软件可扩展性 包括： 操作系统的一个新版本，它具有更多功能性，如多线程，从而可支持更多的用户进程，更大的地址空间以及更高效的内核功能等。 具有更有效优化的编译器。 更有效的数学和工程库。 更有效和易于使用的应用软件。 对用户更友好的编程环境。 2、应用可扩展性 相同程序在一个可扩展系统上运行时，其性能随规模扩大成比例地改进。两个度量： 机器规模可扩展性。 问题规模的可扩展性。 （1）机器规模可扩展性 随着附加处理器的增多，系统性能会有多大改进。 例如，假定一个有n个处理器的系统，作数据库服务器用 它拥有美国人口数据库，通常有100位美国科学家查询，其性能为每秒1000个事务处理(TPS)。 现在如果我们将处理器数加倍成2n，能期望速度有多少改进?期望是多少？ 所增加的资源中，处理器最为常见； 也可能是存储器容量和I／O容量。 （2）问题规模可扩展性 是指系统在处理更大数据量和工作负载的更大求解问题时其性能如何。 例如： 仍以上述的数据库服务器为例，如果该服务器上装有中国人口的数据库，则此服务器的服务质量将会如何? 注意到此数据库的大小已增至原来的5倍。 如果用户数增至200(100个美国和100中国科学家联合参与研究)，将会发生什么情况? 在研究应用可扩展性时，有以下3点值得注意： 许多实际的并行应用问题对于机器和问题规模已有内在限制 应将“应用／机器” 一起视为一个系统 它也依赖于资源规模。 3、技术可扩展性是指该系统能适应技术的改变。 它可进一步分为3类： 代可扩展性， 空间可扩展性， 异构可扩展性。 （1） 代(时间)可扩展性 一个系统扩展可以通过使用： 下一代的硬件部件； 更快的处理器 更快存储器 新版本的操作系统； 更强功能的编译器。 计算机系统中发展最快的部件是处理器； 进展最慢的部分是程序设计语言(Fortran 77仍被广泛使用) ； 单计算机每两年可以将处理器升级一次 并以慢得多的速度更新其他部件。 并行计算机中这种更新不活跃。 例题：IBM个人计算机的代可扩展性 最具有代可扩展的计算机是IBM PC机。 PC系统(从处理器到母板、I／O卡和软件)是设计成代可扩展的。 现有系统中的二进制代码和应用程序(DOS、Windows、数据库、电子表格及字处理软件等)不用作任何修改，就可在升级的系统中运行得更快。 （2）空间可扩展性 这一用语是由Gorden Bell发明的，用来表示一个系统可从一个盒子、一间房间或一幢大楼中的多处理器扩展到多幢大楼和地理范围(远距离范围)中的多处理器的能力。 SMP和MMP只具有有限的空间可扩展性 因特网则具有最好的空间可扩展性 （3）异构可扩展性 一个系统扩展不同设计者和厂商所提