分布存储并行系统中的共享存储编程环境.pptxVIP

分布存储并行系统中的共享存储编程环境唐志敏tang@ict.ac.cn中国科学院计算技术研究所提纲什么是分布式共享存储JIAJIA分布式共享存储系统JIAJIA系统的性能JIAJIA系统的应用JIAJIA的编程界面和性能优化lssc机群上的JIAJIA几种常见的并行计算系统对称多处理(SMP)工作站和服务器集中式共享内存，处理机数一般不多大规模并行机(MPP)与机群系统(Cluster)分布式存储，处理机数可以较多一般采用PVM，MPI等消息传递编程环境也可以实现分布式共享存储（或虚拟共享存储）每个结点可以是一个SMP系统由工作站、服务器构成的网络并行计算环境分布式存储，可能是异构的可以用消息传递，可以用虚拟共享存储体系结构：分布存储与集中存储多地址空间消息传递通信编程、移植困难可伸缩性好单地址空间共享存储通信编程容易、程序易移植可伸缩性一般编程模型：共享存储与消息传递并行计算机程序设计的两种主要方式并行意味着计算过程的划分：子任务、子问题同一问题的各子任务间有联系：同步、数据交换共享存储与消息传递提供了不同的数据交换方式共享存储数据不必划分，每个子任务都能看到完整的数据需要同步，不同子任务都按确定的次序访问数据消息传递数据也要划分，每个子任务只能看到一部分数据任务通过发送或接收消息来交换数据、保持同步分布式共享存储系统在分布存储系统上提供共享存储抽象分布式共享存储（DSM）系统结合共享存储的易编程和分布式存储的易扩展在分布式系统的基础上通过软件或软硬结合的方法提供共享存储的编程环境硬件DSM系统：DASH, FLASH, Alewife, DDM商品化系统：KSR-1，Origin 2000，NUMA-Q软件DSM系统：IVY, Midway, Munin, Quarks, TreadMarks, CVM, JIAJIA, …又称为虚拟共享存储系统、共享虚拟存储系统硬软件结合的DSM系统：Shrimp, Typhoon, Simple-COMA, ...软件DSM系统与消息传递系统硬件平台相同，都是分布式存储的并行系统最低层的数据交换手段只能是消息传递数据在物理上仍然分布在各个结点的存储器内软件分布式共享存储提供一个逻辑上统一的虚拟地址空间自动识别非本地存储访问，并转换为消息传递性能：与消息传递相当与精雕细刻的消息传递相比，可能会多送消息自动地缓存远程数据，有效地利用访存局部性软件DSM系统JIAJIA建立在分布存储并行系统上的共享存储环境把用户从繁琐的数据划分和通信组织中解放出来使多台工作站的存储器真正联接成了一个大容量的共享空间在国外的同类系统（如CVM, TreadMarks等）系统中，共享内存容量受限于单机内存的容量简单精巧、开销小、效率高新颖的cache一致性协议能有效地缓存远程数据以运行库的方式支持共享存储和并行计算JIAJIA的主要特点基于主流的操作系统平台，系统移植方便是一个纯用户级软件系统，不修改操作系统Solaris, AIX, Linux, SUNOS, IRIX, WinNT/9x已运行于：SPARC机群、Alpha机群、IBM SP2、曙光系列、Pentium 微机机群等平台支持C 和 FORTRAN 编程接口可方便地移植已有的共享存储应用程序SPLASH2, NAS Parallel Benchmark一批实际应用程序可以根据用户的需要，增加新的功能提供适当的消息传递函数jia_send,jia_recvP1P2P3P4CacheCacheCacheCache3m4m-1m2m-12m3m-10m-1HomeHomeHomeHomeJIAJIA共享空间的组织CC-NUMA结构Non-Uniform Memory AccessJIAJIA共享空间的组织地址映射0m-1cachehomecachem2m-1homecachecachecachecache(n-1)mnm-1homePnP1P2基于锁的Cache一致性协议支持域存储一致性(Scope Consistency)模型对程序员的“额外”要求用临界区或其它同步机制保护对共享数据的冲突访问(即对同一共享单元的两个访问且其中至少有一个是写访问)对同一个共享数据的冲突访问需用同一把锁保护采用写无效(Write-Invalidate)协议采用多写(Multiple-Writer)协议JIAJIA系统的性能(1)性能测试程序Water：水分子模拟程序，来自SPLASHBarnes：解决天体物理中的N-body问题，SPLASHLU(blocked)：用分块算法作LU分解，SPLASH2IS：桶算法整数排序，来自NAS Parallel BenchmarkEP：Embarrassingly Parallel程序，来自NAS TSP：货郎担问题，来自Trea