高性能计算及其应用(徐迪威).pptVIP

高性能计算应用 高性能计算应用 2002-2011中国TOP100集群系统份额 高性能计算应用 气象预测（小时级） 灾害分析 海洋石油勘探 汽车制造 工业设计 城市规划 政府决策 新药制造 广东省对HPC的需求 Thanks!谢谢！ 广东省计算中心 Guangdong Computing Center 徐迪威 Adey Xu Tel: 86-20mail: adey2002@163.com Http:// * 高性能计算技术架构—并行计算 PVM模型 PVM（Parallel Virtual Machine）， 由美国橡树岭国家实验室ORNL（Oak Ridge National Laboratory）于1989年开发的一种支持网络并行计算的支撑软件。 目的：让用户将网络上的各种异构计算机的集合看成一个通用的并行计算环境，并可满足用户选择适合的程序设计方式表达应用算法，同时，在可用的硬件资源中选择最合适的体系结构执行，而且支持已有软件的重用。PVM具有通用性强及系统规模小的特点，既适合TCP/IP网络环境，又适用于MPP大型并行系统。 一台PVM虚拟机由多台结点机构成，每台结点机上均有一个PVM daemon（简称pvmd）在后台运行。这些daemon中有一个起主导作用，称主pvmd(master pvmd)，一般位于启动虚拟机的结点机上，而其它则称为从pvmd(slave pvmd)。 PVM由两部分组成. （1）监控进程，它负责本机任务与pvmd通过TCP协议的交互及结点间通过UDP（User Datagram Protocol）的交互。pvmd赋予网络中每一个PVM任务一个全局唯一的32位整数标识Tid，用以对任务与pvmd及任务间的标识，是通信的重要依据，使得任务可以在一个统一的PVM虚拟空间中被组织管理，用户应用程序能够方便准确地定位一个PVM任务，即定位一个位于网络中不同结点上的进程. （2）PVM接口库，它向PVM任务提供一个基于Tid的采用消息传递方式的调用界面API。 高性能计算技术架构—并行计算 OpenMP模型 OpenMP（Open Multi-Processing）是一种支持多平台共享存储多处理的API，用于共享内存并行系统的多线程程序设计的一套指导性注释，提供了对并行算法的高层的抽象描述。程序员通过在原始碼中加入专用的pragma （编译指示）来指明自己的意图，由此编译器可以自动将程序进行并行化，并在必要之处加入同步互斥以及通信。当选择忽略这些pragma，或者编译器不支持OpenMP时，程序又可退化为通常的程序（一般为串行），代码仍然可以正常运作，只是不能利用多线程来加速程序执行。 OpenMP提供的这种对于并行描述的高层抽象降低了并行编程的难度和复杂度，这样程序员可以把更多的精力投入到并行算法本身，而非其具体实现细节。对基于数据分集的多线程程序设计，OpenMP是一个很好的选择。同时，使用OpenMP也提供了更强的灵活性，可以较容易的适应不同的并行系统配置。线程粒度和负载平衡等是传统多线程程序设计中的难题，但在OpenMP中，OpenMP库从程序员手中接管了部分这两方面的工作。 OpenMP支持的程式语言包括C语言、C++和Fortran，支持OpenMP的编译器包括Sun Compiler、GNU Compiler和Intel Compiler等。 高性能计算技术架构—并行计算 MPI v OpenMP 特点 优点 缺点 MPI 既可在分布式系统又可在共享内存系统中运行 可移植到Windows和Unix系统。 适合粗粒度并行 有大量的商业MPI库 每个进程都有自己的局部内存 通过显式的收发函数调用完成数据在各自局部内存的复制 允许静态任务分配 显式并行 可实现通信和计算重叠 没有数据分布问题 通信、全局操作开销大 串行程序并行化难度大 不宜实现负载均衡 OpenMP 仅在共享内存系统中运行 编程简单 允许粗粒度和细粒度并行 支持增量并行和隐式消息传递 多个线程共享相同的全局内存，同时拥有各自的私有内存 通过共享变量实现线程间通信和并行 相对易于实现 允许运行时任务调度 支持增量并行 不能在非共享内存系统上使用 不适合需要复杂的线程间同步和互斥的场合 数据分布常导致出现问题 并行循环太小导致开销大 线程运行无序 需要显式同步 高性能计算技术架构 并行计算 网格计算 高性能计算机 高性能计算技术架构—网格计算 什么是网格？ 网格（Grid）是一个基础体系结构，它耦合了： - 计算机（个人计算机、工作站、手持终端、超级计算机等） - 软件（如根据要求租用有特殊用途的应用系统） - 数据库（如对