第十三章共享存储系统编程上课讲义.pptVIP

国家高性能计算中心（合肥） Parallel and work sharing directives data environment directives synchronization directives 编译制导语句(1) Work-sharing constructs 将结构内的任务分配到处理机中, 必须动态地放在Parallel region construct 中, 进入这种结构之前并不隐含BARRIER操作 DO(最常用) 有SCHEDULE选项, 可以指定采用什么调度算法 SECTIONS(可以流水线执行之) SINGLE(只有一个处理机执行之) Parallel Region: parallel, end parallel Work Sharing: do, sections, single(parallel do, nowait) Fork-Join model of parallel execution(static,dynamic,orphaned) Parallel Region and Work Sharing Directives 编译制导语句(2) 指令格式 固定形式 !$OMP 自由形式 !$OMP, *$OMP, C$OMP Parallel Region Construct !$OMP Parallel [clause[[,] clause] . . .] Do I = 1, 20 A(I) = A(I) + B(I) !$OMP End Parallel (隐含BARRIER操作) 其中Clause可以为:PRIVATE(list), SHARED(list),COPYIN(list), FIRSTPRIVATE(list), DEFAULT(PRIVATE|SHARED|NONE), REDUCTION({operation|intrinsic}:list), IF(logical_expression) 国家高性能计算中心（合肥） 共享存储系统编程 13.1 ANSI X3H5共享存储模型 13.2 POSIX 线程模型 13.3 OpenMP模型 编程标准的作用 规定程序的执行模型 SPMD, SMP 等 如何表达并行性 DOACROSS, FORALL, PARALLEL,INDEPENDENT 如何表达同步 Lock, Barrier, Semaphore, Condition Variables 如何获得运行时的环境变量 threadid, num of processes ANSI X3H5共享存储器模型 Started in the mid-80’s with the emergence of shared memory parallel computers with proprietary directive driven programming environments 更早的标准化结果—PCF共享存储器并行Fortran 1993年制定的概念性编程模型 Language Binding C Fortran 77 Fortran 90 X3H5:并行性构造 Program main !程序以顺序模式开始,此时只有一个 A !A只由基本线程执行，称为主线程 parallel !转换为并行模式，派生出多个子线程（一个组） B !B为每个组员所复制 psections !并行块开始 section C !一个组员执行C section D !一个组员执行D end psections !等待C和D都结束 psingle !暂时转换成顺序模式 E !已由一个组员执行 end psingle !转回并行模式 pdo i=1,6 !pdo构造开始 F(i) !组员共享F的六次迭代 end pdo no wait !无隐式路障同步 G !更多的复制代码 end parallel !转为顺序模式 H !初始化进程单独执行H ... !可能有更多的并行构造 End 线程 隐式路障同步 P Q R A B C E F(1:2) G H G G F(3:4) F(5:6) D B B 隐式路障同步 隐式路障同步 无隐式路障同步 隐式路障同步 共享存储系统编程 13.1 ANSI X3H5共享存储模型 13.2 POSIX 线程模型 13.3 OpenMP模型 POSIX线程模型 IEEE/ANSI标准—IEEE POSIX 1003.1c-1995线程标准—