GMRES并行算法研究中期报告.docxVIP

GMRES并行算法研究中期报告

介绍

本文是GMRES并行算法研究的中期报告，主要介绍了GMRES算法的基本思想和串行算法的实现方法，以及目前已完成的并行GMRES算法的研究进展。

GMRES算法简介

GMRES（GeneralizedMinimalResidual）算法是一种求解稀疏线性方程组的迭代算法。它的基本思想是通过在Krylov子空间中寻找能够最小化残差的向量来为线性方程组求解近似解。因为Krylov子空间的维数随着迭代次数的增加而增加，因此GMRES算法通常需要在每次迭代中求解一个小规模的最小二乘问题。然而，这个最小二乘问题的规模可能会随着迭代次数的增加而增加，因此GMRES算法的计算复杂度通常比其他迭代算法高。尽管如此，GMRES算法具有很好的收敛性和稳定性，因此在实际求解大规模稀疏线性方程组时仍然广泛使用。

串行GMRES算法的实现

GMRES算法的串行实现有很多变种，但它们都有一些共同的特点。首先，它们都需要利用稀疏矩阵-向量乘积的性质来计算Krylov子空间中的向量。其次，它们都需要在Krylov子空间中求解最小二乘问题。这一步通常可以用QR分解或者奇异值分解（SVD）来完成。最后，串行GMRES算法还需要选择一个合适的终止条件来确定算法的迭代次数。

并行GMRES算法的研究进展

由于GMRES算法的计算复杂度较高，因此并行GMRES算法的研究备受关注。目前已有很多并行GMRES算法被提出，它们的并行方式可以分为两类：基于数据并行的算法和基于任务并行的算法。

基于数据并行的算法

基于数据并行的算法是将稀疏矩阵和向量按行或者列划分成若干个块，并将这些块分配给不同的处理器进行并行计算。这样做的好处是相对简单，适用于稀疏矩阵-向量乘积的计算。但是，它的缺点是容易出现负载不平衡的情况，导致并行效率低下。

基于任务并行的算法

基于任务并行的算法是将GMRES算法中的不同步骤分解成若干个任务，并为这些任务构建任务图谱。然后，这些任务可以按照任务图谱上的依赖关系进行并行计算。这种算法的好处是能够实现比较好的负载平衡，但是同时也会增加算法的通信开销。

目前已有一些比较成熟的并行GMRES算法，比如GCR（GeneralizedConjugateResidual）算法、FGMRES（FlexibleGMRES）算法、QMR（Quasi-MinimalResidual）算法等。这些算法的实现方式各有特点，适用于不同性质的稀疏矩阵和不同规模的并行计算平台。

结论

GMRES算法是一种求解稀疏线性方程组的迭代算法，具有很好的稳定性和收敛性。但它的计算复杂度较高，因此并行GMRES算法的研究成为求解大规模线性方程组的必要手段。目前已有很多比较成熟的并行GMRES算法，但仍有很多需要研究的问题，比如如何在不同平台上实现高效的并行计算，如何实现动态负载平衡等。