lecnote_1.pptVIP

2007年“教育部-英特尔精品课程”建设项目2008年“教育部-IBM精品课程”建设项目 并行程序设计 Parallel Programming 多核时代 并行计算机不再与“昂贵”、“高性能”有必然联系 从体系结构上看，我们所使用的都是并行计算机 大多数人并没有并行计算的体会 计算机专业的整个本科教学，都是基于Von Neumann， 仅在操作系统、体系结构里提到一点并行和并发的概念 使用的应用软件也基本是基于串行技术 可以在一台机器上同时运行几个程序，但这与多核技术有什么关系？ OS的多进程调度技术 早先的超线程技术 Cache、FBI的瓶颈效应 编程人员：“傻瓜”还是“精英” “傻瓜”：知道语法就够了，其他事情交给编译、运行支持去做吧 “精英”：我能，但只有我能；我能，但我只会这一点 新软件危机 硬件上多核、软件上串行：大量的晶体管闲置、使用效率不高 性能，再次成为编程技术的焦点：线程级并行对开发多核技术的计算能力至关重要 性能，依赖“精英”们实现 体系结构的特征 算法的特征 编写程序：既要做“经理”，又要做“业务员” “业务员”：完成数据处理 “经理”：“业务员”的分工、协调 能以来自动机理论(运行时支持) 、形式化理论(编译技术)代替“精英”吗？ 能：当这个问题很简单时 不能：并行算法设计是“艺术性”、而非“技术性”的工作。请将一个求素数的串行程序并行化吧。 并行程序设计：少数人的专利、编程人员的基本要求？ 内容提要 课程基本信息 对并行计算的认识 并行计算的概念 并行计算平台 并行计算技术的使用 问题是什么？ 课程目标与定位 教学安排 课程相关信息 成绩评定 平时练习、编程实验: 50分 期末考试：50分 课程网页 :8080/course/ 课程历史 1999开课：李晓明 2003开始：余华山 内容沿革 北大于1999年开设课程 2003年以前：李晓明 MPI、HPF、OpenMP、并行编译 集群、MPP、SMP 2005年 MPI、OpenMP、并行算法设计与应用实例、网络并行处理 集群、MPP、SMP、网格 2007年：教育部-Intel精品课程建设项目 MPI、pthread与Intel多核技术、并行算法设计与应用实例、 OpenMP、网络并行处理 多核、集群、MPP、SMP、网格 2008年：教育部-IBM精品课程建设项目 pthread与Intel多核技术、CELL BE技术、 MPI、并行算法设计与应用实例、 网络并行处理(网格) 多核、集群、MPP、SMP、网格 并行计算的基本概念 “并行”：支持多个操作、或者任务同时执行的一种规划 做事情，总要规划动作的顺序：确定房子的地址、设计结构图、作预算、选择施工者、规划施工进度、买建筑材料和施工。 规划的关键是分析问题各个部分之间的内在联系，任何规划都不能破坏这个联系 总有一些部分之间是没有内在联系的，可以同时执行：房屋建筑的第一阶段施工、购买第二阶段建筑材料 什么是并行计算：使用多颗处理器解决一个问题的程序开发技术 计算平台：提供多颗处理器、相互之间能够通信和同步 操作系统：能够同时在不同的处理器上，分别执行一个指令流 编程语言(以及编译运行系统)：支持计算并行性的表达 身边的并行计算技术 你的笔记本、桌面机是并行计算机吗？ 使用Intel Pentium处理器 使用Intel Core 2处理器 你熟悉的Linux、Windows XP是并行操作系统吗？ Linux Windows XP 你熟悉的C/C++、Java是并行编程语言吗？ C/C++ Java 你会写并行程序吗？ 并行计算有什么用途 写WORD文档、写C/C++程序代码 一个字符、一个字符地从键盘输入 即使用最低端的机器，没有人感觉到不能及时得到响应(你同时打开了很多文档、在边听MP3除外) 使用Google、Baidu搜索网页 时刻都有成千上万的用户在搜索 有兴趣吗？对比一下从Google、Baidu得到的响应速度、在一台高端服务器上模拟100个用户搜索的响应速度 汶川地震研究：反演地震过程，整个中国几乎都有震感 震区离散化，每10个立方米作为一个粒子 使用当今运算速度最快的处理器，对这个三维数组做一次最简单的运算，比如对每个元素做一次加法，需要多久？ 并行计算的时代已经到了？ 并行计算：用多个处理器解决一个问题 提高速度 提高规模 并行计算平台随处可见 多核处理器：PC机、笔记本 SMP：服务器 Cluster：大型计算中心服务器 网络计算环境：CN Grid、China Grid、TeraGrid、Google？ 并行计算的需求来自各个领域 我们的生活已经离不开网络：成千上万的并发用户访问搜索引擎、新闻网站、通信聊天网站、娱乐视频网站、多人网络游戏、公共服务网站(图书馆、电子文献