并行机与并行程序.ppt

高性能并行机与并行程序简介 高性能计算机分类 1。集群系统： IA + Linux/NT: RISC + Unix: IBM sp 系列，性价比低 2。UNIX SMP 小型机： IBM 690，SUN, 联想深远 商务计算为主, 易编程， 可扩展性差 3。（传统）大规模并行机(mpp)： T3E，曙光1000 编程不易，不再发展 4。向量机（传统超级机）：CRAY, 银河I 5。向量并行机 ： NEC地球模拟器 速度高， 昂贵， 专用， 非产品化 6。 ccNUMA： SGI Qrigin3000 规模受限， 可扩展性差 7。 专用机： IBM BlueGene, BlueGen/L 用途分类 高可用性 比如各种网站 高可见性 比如部分不允许停止的服务 科学计算类，高计算能力，高内存容量 TOP500 机型发展趋势 Top500 supercomputer 2002.11 制造公司/CPU个数 运算能力 所属单位 TOP 500 CPU 分类统计 Cluster 系统基础架构 部分并行机样例 联想公司给大庆做的128节点规模clusterMPI并行程序设计原则 它由市场上所销售的通用硬件构成，如装有Linux操作系统的个人电脑、标准以太网路卡、网络交换机，不包含任何特殊的硬件 它使用容易获得的软件，如Linux操作系统、PVM (Parallel Virtual Machine) 和 MPI (Message Passing Interface）等并行软件 它和工作站群最大的差异点在于Beowulf看起来比较像一台机器，而不是许多台工作站 基于消息传递MPI的并行程序设计 MPI—消息传递接口，是一种扩展函数库，在C、FORTRAN77 语言中可以方便的调用，编译软件可以采用Linux下的mpicc, mpif77 1.MPMD（多程序，多数据） 2.SPMD（单程序，多数据） 并行就是将一个大任务分割成很多小任务 由许多计算机同时处理这些小任务 问题的关键是任务能否可以并行 SMP并行机架构由编译器来分配并行任务 MPP并行机架构由程序员来分配并行任务 MPI并行程序设计需要注意的问题 对于并行程序的概念要清晰 各个进程之间的通讯避免出现死锁 各个进程之间的同步 网格划块原则 田字形网格通讯结构 例1.Jacobi迭代的MPI并行算法实现 例2.一重积分方程的求解 测试2：Steady Heat Conduction Problem Solve the 2D Parabolic equation 该2维导热问题的网格划块 田字形划分 条形划分 计算结果 测试结果－总的计算时间 田字格与条型格的计算时间比较 谢谢！ * * P P P bus or switcher shared memory M P M P M P Communication Network 共享内存系统 —— SMP shared memory systems 如SGI，IBM，SUN等巨型机 分散内存系统 —— MPP distributed memory systems 如 Beowulf —— CLuster 并行计算机的分类 1 NEC Earth-Simulator/ 5120 35860.00 40960.00 Earth Simulator Center Japan/2002 2 Hewlett-Packard ASCI Q - AlphaServer SC ES45/1.25 GHz/ 4096 7727.00 10240.00 Los Alamos National Laboratory USA/2002 3 Hewlett-Packard ASCI Q - AlphaServer SC ES45/1.25 GHz/ 4096 7727.00 10240.00 Los Alamos National Laboratory USA/2002 4 IBM ASCI White, SP Power3 375 MHz/ 8192 7226.00 12288.00 Lawrence Livermore National Laboratory USA/2000 5 Linux NetworX MCR Linux Cluster Xeon 2.4 GHz - Quadrics/ 2304 5694.00 11060.00 Lawrence Livermore National Laboratory USA/2002 6 Hewlett-Packard Alp