在CUDA上实现有效的稀疏矩阵乘法.docVIP

在CUDA上实现有效的稀疏矩阵乘法 摘要 图像处理单元（GPU）的大规模并行性在许多高性能计算应用中提供了巨大的业绩。当稠密线性代数绘制到这样的平台上，利用这种可能性来进行稀疏矩阵的计算就呈现出额外的许多挑战。其在用迭代方法解决稀疏线性系统和特征值问题，以及稀疏矩阵向量乘法方面的地位在稀疏线性代数中具有独特的重要性。 在本文中，我们讨论用于SPMV（稀疏矩阵向量乘法）的数据结构和算法，使SPMV在适合GPU的细粒度并行结构的CUDA技术平台上可以有效的执行。基于SPMV的有限存储特性，我们强调有效的内存带宽和紧凑的存储格式。我们认为广泛的稀疏矩阵来自那些结构严谨的规则矩阵和那些经常在矩阵的每行带有不平衡的非零值分布的高度不规则矩阵。我们开发一些方法来探究许多常见的矩阵结构形式，同时也提供一些备选方案来适应更多更大的不规则矩阵。 从结构上说，在一个GeForce GTX 280 GPU平台上，基于网格的矩阵，在单精度模式中我们可以获得每秒36亿次的性能，而在双精度模式中我们可以获得每秒16亿次的性能。对于没有结构的有限元素矩阵，我们通过分别进行超过每秒15亿次和10亿次的单双精度测试来观察它们的性能。这些结果比起之前用传统的多核处理器进行的关于SPMV的state-of-the-art研究方法要好的多。我们的双精度SPMV性能大体上是一个Cell BE with 8 SPEs系统的2