用于GPU寄存器分配和并行度管理的协同优化编译方法.PDFVIP

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 106648546 A (43)申请公布日 2017.05.10 (21)申请号 201610805632.4 (22)申请日 2016.09.07 (71)申请人 北京大学 地址 100871 北京市海淀区颐和园路5号 (72)发明人 梁云　谢小龙　 (74)专利代理机构 北京万象新悦知识产权代理 事务所(普通合伙) 11360 代理人 黄凤茹 (51)Int .C l. G06F 9/30(2006.01) G06F 9/38(2006.01) G06F 9/50(2006.01) 权利要求书1页 说明书4页 附图1页 (54)发明名称 用于GPU寄存器分配和并行度管理的协同优 化编译方法 (57)摘要 本发明公布了一种协同优化编译方法，所述 方法用于GPU寄存器分配和并行度管理协同优化 的编译，使得寄存器的分配和并行度管理的优化 同时进行，且不引起缓存的竞争；包括：收集寄存 器分配参数、线程级并行参数和缓存性能参数 ； 列出所有可能的线程块数量TLP和寄存器数量 Reg的组合 ；删除导致缓存竞争的组合和导致寄 存器浪费的组合 ；对剩下的组合进行寄存器分 配；使用性能模型进行预测并选择性能最佳的组 合，作为寄存器分配编译的结果。本发明技术方 案可在不引起缓存竞争的前提下，最大化寄存器 A 的使用率，最终提升整个程序的性能。 6 4 5 8 4 6 6 0 1 N C CN 106648546 A 权　利　要　求　书 1/1 页 1.一种协同优化编译方法，所述方法用于GPU寄存器分配和并行度管理协同优化的编 译，使得寄存器的分配和并行度管理的优化同时进行，且不引起缓存的竞争；包括如下步 骤： A)收集寄存器分配参数、并行度管理参数和缓存性能参数； B)通过步骤A中所获得的参数，列出所有可能的线程块数量TLP和寄存器数量Reg的组 合；删除导致缓存竞争的组合和导致寄存器浪费的组合； C)对剩下的线程块数量TLP和寄存器数量Reg的组合进行寄存器分配，在寄存器的分配 过程中，用染色算法将该程序的所有变量放入数量为Reg的寄存器中；当出现部分变量无法 放入到Reg个寄存器时，将所述部分变量放在共享内存中；当共享内存空间不足时，再把所 述部分变量放置到片下存储中； D)使用性能模型预测得到各个组合的性能，并选择性能最佳的组合，作为寄存器分配 编译的结果。 2.如权利要求1所述协同优化编译方法，其特征是，A)所述寄存器分配参数包括每个线 程至少获得的寄存器数量MinReg和每个线程最多需要的寄存器数量MaxReg；所述并行度参 数包括不考虑寄存器的情况下每个GPU核上最多的的线程块数量MaxTLP和不引起缓存竞争 的最多线程块数量OptTLP；缓存性能参数包括每个线程块在不引起线程数下降的情况下可 获得的最多共享内存数量ShmSize。 3.如权利要求1所述协同优化编译方法，其特征是，B)所述导致缓存竞争的组合为每个 GPU核心上的并发线程块数量TLP大于不引起缓存竞争的最多线程块数量OptTLP的组合；所 述导致寄存器浪费的组合为寄存器Reg没有达到对应的TLP最大的寄存器数量的组合。 4.如权利要求1所述协同优化编译方法，其特征是，D)所述性能模型为： (2)Spill ＝Num ×Cost +Num ×Cost +Num cost local local shm shm others (3)TPSC＝TLPgain ×Spillcost 其中：公式 (1)中，TLPgain表