logo

您所在位置网站首页 > 海量文档  > 计算机 > 数据结构与算法

高性能计算知识:异构并行计算介绍.pdf 11页

本文档一共被下载: ,您可全文免费在线阅读后下载本文档。

  • 支付并下载
  • 收藏该文档
  • 百度一下本文档
  • 修改文档简介
全屏预览

下载提示

1.本站不保证该用户上传的文档完整性,不预览、不比对内容而直接下载产生的反悔问题本站不予受理。
2.该文档所得收入(下载+内容+预览三)归上传者、原创者。
3.登录后可充值,立即自动返金币,充值渠道很便利
高高性性能能计计算算知知识识::异异构构并并行行计计算算介介绍绍 免费群 很长一段时间,摩尔定律影响和 动了计算机处理器发展, 随着Intel发布3D技术的Sunny Cove架构CPU处理器,摩尔定 律被认为再此生效。 过去,计算机编程几乎一直都是串行的,绝大多数的程序只 存在一一个个进进程程或或线线程程。大家还过着“我写个程序,性能达不 到就睡个觉,等硬硬件件工工艺艺刷刷新新硬硬件件性性能能,性能就达标了”的 美好生活。2003年以后因为工艺达到了瓶颈,你光“睡觉”是 不行了。异异构构并并行行计计算算作为重要技术之一承担起了技术变革 的重任。 异构并行计算的本质是把任务分发给不同架构的硬件计算单 元( 比如说CPU、、GPU、、FPGA等 ,让他们各司其职,同步 工作。如同平时工作,把业务中不同类型的任务分给不同的 计算资源执行。 从软件的角度来讲,异构并行计算框架是让软件开发者高效 地开发异构并行的程序,充分使用计算平台资源。从硬件角 度来讲,一方面,多种不同类型的计算单元通过更多时钟频 第1页 率和内核数量提高计算能力,另一方面,各种计算单元通过 技术优化(如如GPU从从底底层层架架构构支支持持通通用用计计算算,,通通过过分分支支预预 测测、、原原子子运运算算、、动动态态并并行行、、统统一一寻寻址址、、NIC直直接接访访问问显显存存 等等能能力力 提高执行效率。 异异构构计计算算(Heterogeneous Computing 在80年代中期就已产生, 其定义更加宽泛。异构计算主要是指使用不同类型指令集和 体系架构的计算单元组成系统的计算方式。常见的计算单元 类别包括CPU 、GPU等协处理器、DSP 、ASIC、FPGA等。 一个异构计算平台往往包含使用不同指令集架构(ISA 的处理 器。 在HPC异构并行计算架构应用技术中,通常分为通通用用架架构构并并 行行和专专用用架架构构并并行行。通用架构并分为同同构构多多核核并并行行(X86 CPU多核并行计算和非X86 CPU多核并行计算 和异异构构众众核核并并 行行(CPU+GPU异构协同计算和CPU+MIC异构协同计算 ;专 用架构并行主要是指CPU+FPGA异构协同计算。 从更广义的角度来讲,不不同同计计算算平平台台的的各各个个层层次次上都存在异 构现象,除硬件层的指令集、互联、内存层次之外,软件层 中应用二进制接口、API、语言特性底层实现等的不同,对 于上层应用和服务而言,都是异构的。异构并行计算框架有 个非常重要的特征就是能能够够帮帮助助开开发发者者屏屏蔽蔽底底层层硬硬件件差差异异, 能让软件平台自适应未来硬件的演进。概括来说,理想的异 构计算具有如下的一些要素: 它所使用的计计算算资资源源具具有有多多种种类类型型的的计计算算能能力力,如 SIMD 、MIMD 、向量、标量、专用等。 其中,芯片硬件定义了单单指指令令单单数数据据(SISD 、单单指指令令多多 数数据据流流(SIMD 、多多指指令令单单数数据据(MISD 和多多指指令令多多数数 据据(MIMD 四个并行级别 ,此外,MIMD还分单单程程序序多多数数 据据(SPMD 和多多程程序序多多数数据据(MPMD 。 第2页 它需要识别计算任务中各子任务的并行性需求类型; 它需要使具有不同计算类型的计算资源能相相互互协协调调运运 行行; 它既要开发应用问题中的并行性,更要开发应用问题中的 异构性,即追求计算资源所具有的计算类型与它所执行的 任务(或子任务类型之间的匹匹配配性性; 它追求的最终目标是使计算任务的执执行行具具有有最最短短时时间间。 可见,异构计算技术是一种使计算任务的并行性类型(代代码码类类 型型 与机器能有效支持的计算类型(即即机机器器能能力力 最匹配、最能 充分利用各种计算资源的并行和分布计算技术。异构计算处 理过程本质上可分为三个阶段: 1. 并并行行性性检检测测阶阶段段。并行性检测不是异构计算特有的,同 构计算也需要经历这一阶段,可用并行和分布计算中的常 规方法加以处理。 2. 并并行行性性特特征征(类类型型)析析取取阶阶段段。并行性特征析取阶段是异构 计算特有的,这一阶段的主要工作是估计应用中每个任务 的计算类型参数,包括映射及对任务间通信代价的考虑。 3.

发表评论

请自觉遵守互联网相关的政策法规,严禁发布色情、暴力、反动的言论。
用户名: 验证码: 点击我更换图片

“原创力文档”前称为“文档投稿赚钱网”,本站为“文档C2C交易模式”,即用户上传的文档直接卖给(下载)用户,本站只是中间服务平台,本站所有文档下载所得的收益归上传人(含作者)所有【成交的100%(原创)】。原创力文档是网络服务平台方,若您的权利被侵害,侵权客服QQ:3005833200 电话:19940600175 欢迎举报,上传者QQ群:784321556