并行计算实验指南讲解说明.ppt

reduce map操作结束后，所有与某指定out key相对应的中间结果组合为一个列表（list）。 reduce()函数将这些中间结果组合为一个或多个对应于同一output key 的 final value （实际上每一个output key通常只有一个final value） MapReduce逻辑过程 并行化 map()函数可以并行执行，为不同的输入数据集生成不同的中间结果 reduce()函数也可以并行执行，分别处理不同的output key map和reduce的处理过程中不发生通信 瓶颈： 只有当map处理全部结束后，reduce过程才能够开始 实验1.2： OpenMP OpenMP概述 编译制导语句 * * OpenMP概述 OpenMP 是一种面向共享内存以及分布式共享内存的多处理器多线程并行编程语言。 OpenMP是一种能够被用于显式制导多线程、共享内存并行的应用程序编程接口（API）。 OpenMP标准诞生于1997 年，目前其结构审议委员会（Architecture Review Board, ARB）已经制定并发布OpenMP 3.0 版本。 * OpenMP发展历程 OpenMPFortran 1.1 OpenMPC/C++ 1.0 OpenMP Fortran 2.0 OpenMP C/C++ 2.0 1998 2000 1999 2002 OpenMPFortran 1.0 1997 OpenMP F/C/C++ 2.5 2005 OpenMP F/C/C++ 3.0 2008 * OpenMP编程模型：Fork-Join Fork-Join 执行模式在开始执行的时候，只有主线程程存在。主线程在运行过程中，当遇到需要进行并行计算的时候，派生出（Fork）线程来执行并行任务。在并行执行的时候，主线程和派生线程共同工作。在并行代码结束执行后，派生线程退出或者挂起，不再工作，控制流程回到单独的主线程中（Join）。 * OpenMP的实现 编译制导语句 运行时库函数 环境变量 * 编译制导语句（Compiler Directive） 编译制导语句的含义是在编译器编译程序的时候，会识别特定的注释，而这些特定的注释就包含着OpenMP 程序的一些语义。 在C/C++程序中，用#pragma omp parallel 来标识一段并行程序块。在一个无法识别OpenMP 语义的普通编译器中，这些特定的注释会被当作普通的注释而被忽略。 * 编译制导语句（Compiler Directive） void main(){ double Res[1000]; for(int i=0;i1000;i++) { do_huge_comp(Res[i]); }} #include “omp.h”void main(){ double Res[1000];#pragma omp parallel for for(int i=0;i1000;i++) { do_huge_comp(Res[i]); }} 将循环拆分到多个线程执行 并行代码 串行代码 * 编译制导-并行域（parallel region） * 并行域 并行域中的代码被所有的线程执行 具体格式 #pragma omp parallel [clause[[,]clause]…]newline clause= if(scalar-expression) private(list) firstprivate(list) default(shared | none) shared(list) copyin(list) reduction(operator: list) num_threads(integer-expression) * 并行域示例 #include omp.h main () { int nthreads, tid; /* Fork a team of threads giving them their own copies of variables */ #pragma omp parallel private(tid) { /* Obtain and print thread id */ tid = omp_get_thread_num(); printf(Hello World from thread = %d\n, tid); /* Only master thread does this */ if (tid == 0) { nthreads = omp_get_num_threads(); printf(Numbe