《并行算法及其应用》全套PPT课件.pptx

并行算法及其应用计算机学院卢光辉Email:mailto:luguhu_11@163.comluguhumailto:luguhu_11@163.com_11mailto:luguhu_11@163.com@163.comTel言1.什么叫并行算法？ 一些可同时执行的诸进程的集合，这些进程相互作用和相互协调。2.并行算法与串行算法的关系：P1P2P33. 并行与并发的关系：并行并发 并发是指两个或者多个事件在同一时间间隔内发生。在单处理机系统中，每一时刻仅能有一道程序执行，宏观上多道程序在同时运行，微观上这些程序是分时交替执行。4. 并行与分布式的关系： 网络；并行更注重性能，而分布式更注重透明共享。 5.并行与网格计算（普适计算）的关系： 网格通过网络连接地理上分布的各类计算资源、存储资源、通信资源、软件资源、信息资源、知识资源等，形成对用户相对透明的虚拟的高性能计算环境，让人们透明地使用这些资源和功能。6. 为什么要研究并行算法？（1）CPU的发展速度：Moore Law。（2）深蓝与国际象棋大师：1996年2月，国际象棋世界冠军卡斯帕罗夫与IBM开发的“深蓝”计算机对奕，卡斯帕罗夫最终四比二战胜 “深蓝”（IBM，它带有256个处理器 ）。 1997年5月， “深蓝”计算机以3.5:2.5战胜卡斯帕罗夫。（3）需求：快速（天气预报），提高计算精度，与理论、实验并重的科学方法（代替核武器实验）7.国内外发展现状 （1）国内发展情况：2004年研制成功的曙光4000A的处理机总数为2560个，浮点运算峰值速度已达11264Gflops 。 “863”计划、“973”计划、国家自然科学基金都对并行计算十分重视。 （2）国外发展情况 2004.11. Rank 1: IBM 的BlueGene/L DD2 beta-System (0.7 GHz PowerPC 440)，32768个CPU，浮点运算峰值速度已达70720Gflops。美国HPCC、ASCI计划； 早在20世纪80年代末期，美国政府就制定了一项高性能计算计划（Federal High Performance Computing Program）。旨在发展美国的的高性能计算机并将其用于解决一些有关国民经济与国家安全的重大问题，后来，随着通信技术的发展，这个计划被修改为高性能计算与通信计划（HPCC）。 后来，美国政府为了把HPCC计划向更高、更深入的层次发展，又提出了三个计划：推动战略计算计划（Accelerated Strategic Computing Initiative, ASCI）．　其目的是为模拟核试验和核武器储备管理提供足够的计算能力。2. 高性能计算现代化计划（HPC Modernization Program）。 其目的是为了改善国防研究的计算，降低武器设计、测试费用，保持美国在军事上的优势。其任务是建立16个由高速网络连接的高性能计算中心。3. 每秒千万亿次浮点计算计划（Petaflops Computing） 这是美国的前瞻性研究计划。日本真实世界计算计划: 日本早在20世纪90年代初就制定了这一项雄心勃勃的计划。这项计划的目的在于超越信息处理的原有框架，研制超并行、超分布的光计算机系统，并在神经科学和认知科学等方面取得重大进展。真实世界内的信息包括图像、声音、触觉、符号型知识数据等，种类极为繁杂、信息量非常庞大。 另外，日本1997年计划开发的“地球模拟器”已于2002年研发成功，成为一度领先的世界最快的超级计算机。 （3）并行算法的发展状况：教学安排：40学时教材： 孙世新，卢光辉等，并行算法及其应用。参考书：黄铠、徐志伟著，陆鑫达等译.可扩展并行计算技术、结构与编程.机器工业出版社，2000. 李晓梅、蒋增荣等著.并行算法,湖南科学技术出版社，1992.陈国良.并行算法的设计与分析.高等教育出版社，2002.11. 第一章 并行计算平台 全书共分为三个部分：1.基础理论:主要介绍并行计算平台、并行算法概述、并行程序开发环境等；2.基础应用：主要包含矩阵运算、快速傅立叶变换、卷积运算、数字滤波、离散余弦变换、哈达玛变换、2D离散小波变换、数字图像处理等方面的并行算法设计、分析与测试；3.实际应用:主要介绍并行算法在电磁散射中的应用和无线电波参数联合估计中的应用。并行计算机分类1. SISD,Single Instruction Stream Single Data Stream: 特征： 串行的和确定的。 指令系统: CISC, RISC 2. SIMD,Single Instruction Stream Multiple Data Stream: 特征： 同步的；确定的；适合于指令/操作级并行。