高性能并行计算基础架构教程.pptxVIP

高性能并行计算架构 浪潮电子信息产业股份有限公司 2013-11-18 1 2 并行计算及系统架构 并行计算机基础 并行软件环境 3 高性能机群 4 并行计算机基础 并行计算(Parallel Computing） 高性能计算(High Performance Computing) 超级计算(Super Computing) 任何高性能计算和超级计算都离不开使用并行技术 高性能计算HPC (High Performance Computing) 指通常使用很多处理器（作为单个机器的一部分）或者某一集群中组织的多台计算机（作为单个计 算资源操作）的计算系统和环境。 并行计算机基础——发展历程 专用时代包括向量机，MPP系统，SGI NUMA 系统，SUN大型SMP系统，也包括我国的神威，银河，曙光1000等。之所以称为“专用”，并不是说它们只能运行某种应用，是指它们的组成部件是专门设计的，它们的CPU板，内存板，I/O板，甚至操作系统，都是不能在其它系统中使用的。由于技术上桌面系统与高端系统的巨大差异，和用户群窄小。 普及时代高性能计算机价格下降，应用门槛降低，应用开始普及。两个技术趋势起到重要作用。商品化趋势使得大量生产的商品部件接近了高性能计算机专有部件标准化趋势使得这些部件之间能够集成一个系统中，其中X86处理器、以太网、内存部件、Linux都起到决定性作用。机群系统是高性能计算机的一种，它的技术基础和工业基础都是商品化和标准化。 并行计算机基础——TOP10 no name information 1 天河二号 天河二号是由中国国防科技大学开发的超级计算机，今年以持续计算速度每秒3.39亿亿次的优越性能位居榜首。天河二号有16,000个节点，每个节点两个Intel Xeon IvyBridge的处理器及合共3,120,000个计算核心的三个至强披处理器。 2 泰坦 泰坦是安装在美国能源部(DOE)的橡树岭国家实验室Cray XK7系统的超级计算机。泰坦使用261,632其的NVIDIA K20x加速器核心，取得了持续计算速度每秒1.76亿亿次的记录。泰坦是名单上最节能的系统之一，共消耗8.21兆瓦，并提供2,143 MFLOPS / W。 3 红杉 红杉是安装在美国能源部劳伦斯利弗莫尔国家实验室的一台IBM蓝色基因/ Q系统超级计算机。红杉与2011出世，使用1572864核心并已取得了持续计算速度每秒1.72亿次的性能记录。红杉也是名单上最节能的系统之一，共消耗7.84兆瓦，提供2,031.6 MFLOPS / W 4 K 富士通的“K计算机”安装在日本神户的理化学研究所高级计算科学研究院( AICS )，现在以持续计算速度每秒1.05亿亿次的记录位列第四，使用705,024 SPARC64处理核心。 5 米拉 米拉是第二个蓝色基因/ Q系统的超级计算机，现在安装在阿尔贡国家实验室，名列第五位。持续计算速度每秒8.59千万亿次，使用786,432核心。 1 2 并行计算及系统架构 并行计算机基础 并行软件环境 3 高性能机群 4 并行计算机系统架构——类型 Flynn分类： SISD, SIMD, MIMD, MISD 结构模型： PVP, SMP, MPP, DSM, COW 访存模型： UMA, NUMA, COMA, CC-NUMA, NORMA 并行计算机系统架构——Flynn分类 根据指令流和数据流的不同，通常把计算机系统分为四类： 单指令流单数据流（SISD -Single Instruction stream Single Datastream） 单指令流多数据流（SIMD- Single Instruction stream Multiple Datastream ） 多指令流单数据流（MISD- Multiple Instruction stream Single Datastream ） 多指令流多数据流（MIMD- Multiple Instruction stream Multiple Datastream ） 并行计算机系统架构——结构分类 并行计算机系统架构——结构分类-SMP SMP对称多处理机系统 对称共享存储：系统中的任何处理机均可直接访问任何内存模块的存储单元和I/O模块连接的I/O 设备，且访问的延迟、带宽和访问成功率是一致的。所有内存模块的地址单元是统一编码的，各个处理机之间的地位相同。操作系统可以运行在任意一个处理机上。 并行计算机系统架构——结构分类-SMP 优势 单一的操作系统映像：全系统只有一个操作系统，为每个处理器提供负载均衡。 局部高速缓存及其数据一致性：每个处理器均有自己的高速缓存，它们可以拥有独立的局部数据，但是这些数据必须保持与存储器中的数据是一致