并行计算基本概念.pptVIP

* 并行计算基础知识 */66 * 并行计算基础知识 */66 NAS Parallel Benchmark NPB套件由八个程序组成 每个基准测试有五类：A、B、C、D、W (工作站)。A是最小的，D是最大的。 NPB套件以每秒百万次运算为单位输出结果。 整数排序(IS) 快速Fourier变换（FT） 多栅格基准测试（MG） 共轭梯度(CG) 基准测试 稀疏矩阵分解（LU） 五对角方程（SP）和块状三角(BT)求解 密集并行(EP) * 并行计算基础知识 */66 参考文献 黄铠、徐志伟，《可扩展并行计算》，机械工业出版社，2000年 陈国良，《并行计算》，高等教育出版社，1999年 Rajkumar Buyya，《高性能机群计算》，电子工业出版社，2001年 李晓梅、莫则尧等，《可扩展并行算法的设计与分析》，国防工业出版社，2000年 * 并行计算基础知识 */66 谢 谢！ * * * Rpeak 40960, Linpack 87.5% 5120 processor, 8Gflops/P, 640 processor nodes, each consisting of eight vector processors are connected as a high speed interconnection network. * 并行计算基础知识 */66 怎样避免同质化 应用分类 CPU密集、MEM密集、DISK密集、NIC密集 针对不同应用需求，提出不同的方案 可重构计算 * 并行计算基础知识 */66 Intel与AMD Opteron 与32位兼容的64位处理器 HyperTransport Xeon 主频持续上升 Itanium ？ * 并行计算基础知识 */66 华大基因（北京） Draft Sequence of Rice Genome * 并行计算基础知识 */66 曙光百万亿数据处理超级服务器 * 并行计算基础知识 */66 4000L主要指标 40个机柜组成 644个CPU 每秒3万亿次浮点计算峰值速度 644GB内存 百万亿字节（100TB）存储 最大可“在线”扩展到80个机柜 1300个CPU 每秒6.75万亿次峰值速度 4000G内存 600T存储 1200A最大电流，160千瓦最大功耗的海量处理系统 * 并行计算基础知识 */66 初步的面向网格的特点 Grid Terminal智能控制台能够实现庞大系统的安全管理 GridView网格监控中心软件则提供了逻辑视角、视角的可伸缩性、历史记录分析三项特色，被称为系统的“千里眼”。 * 并行计算基础知识 */66 中国近期的一些新闻 曙光“红色网格”孕育10万亿次超级计算机 中科院网络信息中心委托联想研制高性能计算机系统 高性能计算的“超级”对抗 浪潮高性能计算 生命科学领域显奇功 高性能计算：处于什么样的阶段？ * 并行计算基础知识 */66 HPC：处于什么样的阶段 机群高性能计算系统已经成熟，步入量产阶段 国内曙光、联想、浪潮，还有大量小公司 高性能计算应用的快速扩展阶段 从去年开始，机群销量猛增，应用在科学计算和信息服务等所有领域 高性能计算教育相对滞后、人才相对稀缺阶段 北大、清华、科大等有限几所高校设置相应专业课程 * 并行计算基础知识 */66 并行计算基本概念 并行算法的定义与分类 并行算法的复杂性 数据相关性与可并行化 并行计算模型 * 并行计算基础知识 */66 并行算法的定义与分类 算法是解题的精确描述， 是一组有穷的规则，它规定了解决某一特定类型问题的一系列运算。并行计算时可同时求解的诸进程的集合，这些进程相互作用和协调动作，并最终获得问题的求解 并行算法就是对并行计算过程的精确描述 并行算法可以从不同的角度分类为 数值计算并行算法和非数值计算并行算法 同步并行算法和异步并行算法 共享存储并行算法和分布存储并行算法 * 并行计算基础知识 */66 数值算法与非数值算法 数值计算是指基于代数关系运算的计算问题， 如矩阵运算、多项式求值、线性代数方程组求解等。求解数值计算问题的算法称为数值算法（Numerical Algorithm）。 科学与工程中的计算问题如计算力学、计算物理、计算化学等一般是数值计算问题。 非数值计算是指基于比较关系运算 诸如排序、选择、搜索、匹配等符号处理，相应的算法也称为非数值算法（Non-numerical Algorithm）。 非数值计算在符号类信息处理中获得广泛应用，如数据库领域的计算问题、海量数据挖掘等， 近年来广泛关注的生物信息学主要也是非数值计算 * 并行计算基础知识 */66 并行算法的复杂性 上界 f(n)=cg(n)，则称g(n)是f(n)的一个上界，记做f(