矩阵转置中CUDA内存管理优化.pdfVIP

ii

ii

第1章

引言

优化CUDA内存管理在矩

阵转置中的应用

本文档讨论了与高效使用GPU内存和数据管理相关的CUDA应用程序性

能方面的问题，特别是应用于矩阵转置。具体来说，本文档讨论了以下内

存使用问题：

全局内存的数据传输合并共享内存

分区驻留

还有其他未在此讨论的高效内存使用方面的问题，例如主机和设备之间

的数据传输，以及常量和纹理内存。

合并和分区驻留都涉及设备全局内存和片上内存之间的数据传输，而

共享内存则涉及片上共享内存。这里需要指出的是，由于分区驻

留导致的矩阵转置性能下降仅发生在计算能力低于2.0的架构中，例如8系

列和10系列架构。

读者应熟悉基本的CUDA编程概