并行计算与数值方法选讲-教学大纲.doc

中国海洋大学研究生课程大纲 课程名称 并行计算与数值方法选讲 Selected Parallel Computing Numerical methods 课程代码 专业知识（研究生） 课时/学分 课程性质 选修 实践学时 张临杰 课外学时 一、 课程介绍 1.课程描述： 本课程是一门研究生专业选修课，主要面向“计算数学”专业的选修课。主要内容有openMP,MPI,CUDA，MIC等并行计算技术，并使用一些基本的数值方法作为并行计算实验的例子。通过本课程的学习，学生能够了解并行计算，并通过理论结合实践，学会使用上述并行技术编写并行程序，提高分析问题和解决问题的能力。 设计思路： 本课程是为“计算数学”研究生开设的一门专业选修课。本课程可以帮助其在研究中，使用并行计算技术优化各种算法程序，对今后的学习研究有很大的帮助。 课程内容分为六个模块，依次进行讲授： 第一模块：并行计算预备知识，包括并行计算概念，发展历史，软硬件环境等。通过本模块学习，学生对并行计算有初步认识。 第二模块：openMP并行程序设计，包括环境要求与配置，线程概念，制导指令和子句，线程同步与共享等。通过本模块学习，学生能够使用openMP对已有串行程序（C程序）并行化。 第三模块：MPI并行程序设计，包括环境要求与配置，进程概念，常用函数，进程通信，性能评价与优化等。通过本模块学习，学生能够对给定串行程序，找出热点并对热点部分进行MPI并行化。 第四模块：CUDA并行程序设计，包括GPU硬件介绍，CUDA编程环境，线程块，GPU内存种类，CPU 与GPU的异步执行等。通过本模块学习，学生能够对给定串行程序，找出热点并对热点部分进行CUDA并行。 第五模块：MIC并行程序设计，包括MIC硬件介绍，MIC编程环境，MIC编程技术，作模式。通过本模块学习，学生对MIC并行有基本了解，能够编写简单的MIC程序。 第六模块：异构式并行程序设计初探，本模块是对前面模块所学技术的综合应用。学生学习使用openMP,MPI，CUDA和MIC中的两种以上并行技术，对已有串行程序进行并行（不要求最优）。 课程与其他课程的关系： 先修课程： 二、课程目标 课程注重培养学生用各种并行技术解决实际问题的能力，同时通过分组合作完成任务的形式，增强沟通能力和团队合作意识。课程结束后可对目前流行的四种并行技术有较为全面的了解，能够运用这些并行技术，对已有串行程序并行化。 学习要求 要完成所有的课程任务，学生必须： （1）按时上课，认真听讲，积极参与课堂讨论、和上机练习。本课程将包含较多的上机练习、小组讨论等课堂活动。 （2）认真对待并完成规定的上机任务。由于本课程实践性强，学生个人能力有差别，因此上机任务极有可能无法在课堂上完成，因此需要学生能够利用课下时间，继续完成布置的上机任务。这些任务能加深对课程内容的理解、促进独立查阅资料和解决问题的能力培养。上机任务的完成情况，是平时成绩的关键组成部分。 四、进度安排 序号 主题 计划课时 内容概述 1 并行计算预备知识 并行计算预备知识 2+2 并行计算的目标和内容，发展历史，并行机体系结构，操作系统与并行编程环境，并行算法分类等。 2课时 学习集群计算的远程登陆方式和基本的操作 2课时 2 openMP并行程序设计 OpenMP并行程序设计- 基础 2+0 执行模式， 编程要素， 并行域管理，任务分担，同步，数据环境控制等。 2课时 无 OpenMP并行程序设计- 程序设计 4+8 制导指令，自居，nowait 问题，归约操作，线程同步，非全局变量的共享 ，变量的私有化等。 4课时 编写给定数值方法的串行程序，找出热点并对热点部分进行openMP并行化 8课时 3 MPI并行程序设计 MPI并行程序设计 - 基础 2+0 MPICH 安装与程序编译、运行、调试， MPI 编程基本概念。 2课时 无 MPI并行程序设计-程序设计 6+8 MPI程序基本结构，MPI 的原始数据类型，通信与同步，自定义数据类型，进程概念，常用函数，性能评价与优化等。 6课时 编写给定数值方法的串行程序，找出热点并对热点部分进行MPI并行化 8课时 4 CUDA并行程序设计 CUDA并行程序设计-基础 2+0 CUDA编程模型，GPU硬件架构，CUDA软件体系，CUDA编程环境，线程块，GPU内存种类，CPU 与GPU的异步执行等。 2课时 无 CUDA并行程序设计 - 程序设计 6+6 CUDA存储器模型，CUDA通信机制，异步并行执行 6课时 编写给定数值方法的串行程序，找出热点并对热点部分进行CUDA并行化 6课时 5 MIC并行程序设计 MIC并行程序设计 - 基础 2+0 MIC技术简介，MIC硬件