面向图形处理器重叠通信与计算的数据划分方法.pdfVIP

第45卷 第 4期 西 安 交 通 大 学 学 报 Vo1．45 No．4 2011年4月 JOURNALOFXIAN JIAOTONGUNIVERSITY Apr．2011 面 向图形处理器重叠通信与计算的数据划分方法 张保 ，曹海军 ，董小社 ，李丹 ，胡雷钧。 (1．西安交通大学计算机科学与技术系，710049，西安；2．高效能服务器和存储技术国家重点实验室，250013，济南) 摘要：针对 “主核心+协处理器”式异构并行系统采用数据平均划分再分批执行的方法来解决主协 式处理架构的额外通信开销时未能充分利用系统资源的问题，提出了一种新的数据比例划分方法． 结合系统通信带宽和图形处理器(GPU)的计算能力，将应用数据按比例划分为大小不同的数据块 后分批提交给GPU处理，使 系统的传输资源PCI-E总线和计算资源GPU在一段时间内并行工 作，从而实现了应用通信与计算的重叠．在处理按照比例划分的数据块过程 中，尽可能充分利用系 统的传输资源和计算资源，以减少数据传输和计算的相互等待时间．实验结果表明，采用数据比例 划分方法后的应用性能明显提高，可以有效地重叠通信与计算时间，矩阵相乘和快速傅里叶变换总 执行时间比未划分时分别减少了5 和 3O9／6左右，比平均划分时分别减少了3 和 6 左右． 关键词：图形处理器 ；重叠通信与计算；数据划分 中图分类号：TP399 文献标志码：A 文章编号：0253—987X(2011)04—0001—05 NovelGPU DataPartitioningM ethodtoOverlapCommunication andComputation ZHANGBao，CAOHaijun，DONGXiaoshe，LIDan，HULeijunz (1．DepartmentofComputerScienceandTechnology，xianJiaotongUniversity，xian710049，China； 2．StateKeyLaboratoryofHigh-EndServerandStorageTechnology，Jinan250013，China) Abstract：A noveldatapartitioningmethodisproposedtoaddresstheproblem thatthe”CPU+ GPU”heterogeneousparallelprocessingsystem cannotfullyutilizeitsresourceswhenaverage- partitiondatablocksinbatchesisprocessedtodealwiththeextraoverheadforcommunication． ApplicationdataisprocessedbyGPU afterbeingpartitionedintoblockswithdifferentsizesin proportion by taking the communication bandwidth and the GPU computing capacity into account．Therefore，PCI-EbusandGPU canwork inparallelinaperiodoftimetooverlapcorn— municationandcomputation．Thepartitioneddatablockscanutilizesystem resourcesasmuchas possible，andhencethemutualwaitingtimebetweendatatransferringandcomputingcanbere— duced．Experimentalresultsshow thatapplicationperformanceisraisedsignificantlybyeffective- 1Yoverlappingcommunicationan