下降方向.docVIP

一．关于下降法的下降方向问题 考虑如下方程 （1） 其中是可逆方阵，且其对角线元素全部非零，列向量。 由此我们建立一个求解方程组（1）的变分方程 （2） 其中是维列向量。我们可以得到：对于满足的充分必要条件是。这样我们就把问题转化为求解的极小值问题。为了找到的极小值点，我们从人一出发，沿着在点沿着某一个制定的方向搜索下一个近似点，使得在该方向上达到最小值。在最速下降法中，我们会选择在点下降最快的方向，即在这点的负梯度方向。对于共轭梯度法，我们的选取方式为，，，并且，即可求得。但对于非正定矩阵，我们不能保证是非零的，所以我们将用矩阵代替公式中的。的对角线上的元素为对应的的对角线元素的绝对值，其他元素全部为零。于是我们可以得到一个新的算法如下：  当成立时，则停止计算，其中为终止准则。 数值算例： 下面给出一些用上述方法求解线性方程组的例子，并且对迭代次数和计算时间进行了统计。 例1： ，。 终止准则。其中为正定矩阵，所以最速下降法和共轭梯度法全部都适用。 最速下降法 共轭梯度法 变形共轭梯度法 迭代次数 15 16 23 计算时间 0.000275 0.000352 0.003067 例2： ，。 终止准则。其中为可逆矩阵。 最速下降法 共轭梯度法 变形共轭梯度法 迭代次数 无效 无效 646 计算时间 0.021311 例3： ，。 终止准则。其中为正定矩阵。为维向量。 最速下降法 共轭梯度法 变形共轭梯度法 n 迭代次数 计算时间 迭代次数 计算时间 迭代次数 计算时间 1000 14 0.084149 10 0.316603 158 1.596307 2000 14 0.316603 10 0.352262 158 5.809341 将例3中的的对角线元素改为-2，则为可逆矩阵但非正定，此时得到的结果为 最速下降法 共轭梯度法 变形共轭梯度法 n 迭代次数 计算时间 迭代次数 计算时间 迭代次数 计算时间 1000 无效 324 3.371047 无效 2000 651 26.002123 539 21.007837 由此可见，对于一个可逆但非正定的矩阵，以上三种方法均未必有效。他们的可行性有待进一步的探讨。 戴宽平 1