线性代数与数值分析.docVIP

Numerical Analysis Lloyd N. Trefethen Oxford University March 2006 致谢： 这一个文章将会在不久就要出版的普林斯顿数学伴侣中刊登, 由Timothy Gowers和June Barrow-Green编辑，普林斯顿大学出版社出版。 在准备这一篇短文时，我得益于来自许多同事的忠告，他们也帮助改正了若干事实和论述的错误。我也不总是听从他们的忠告,因此我将对书中的错误和省略负完全责任。（以下是致谢的名单，略去） 1 对数值计算的需要 每个人知道当科学家和工程师需要数学问题的数值答案的时候,他们就转向计算机。 然而，存在着很大的关于这一个过程的误解。 数值力量是特别巨大的。 人们时常认为，当伽利略等定下了一项原则，对每件事物一定要进行测量，从那时起科技革命就开始起动了。数值测量导致了用数学方法表达物理定律。并且,在全部周期中，其成果都围绕着我们,精细的测量导致精确的定律, 进而导致较好的技术和更精确的测量。 那种离开数值数学而获得某种物理科学的进步，或获得某种意义重大的工程产品发展的时代，早已过去了。 在这一个故事中计算机确实扮演一个角色,不过，它们的角色是什么却存在一个误会。 许多人想像，由科学家和数学家产生公式,然后,藉着将数值插入进这些公式之内,计算机就制造出必需的结果。实际情况完全不是这样。 真的进行的是执行运算法则的一个更为有趣程序。 在大部份的情形下，照着公式做这件工作甚至无法完成,大多数的数学问题不能够靠一个有限步操作的序列来解决。相反的是快速算法则很快地收敛于精密到三或十位，甚至一百位的数值近似答案。对于科学或工程应用来说, 这样一个答案可能和精确答案一样有用。 可以举例说明正确和近似解的复杂性。假如我们有一个四次多项式, p(z)= c0+ c1z+ c2z2+ c3z3+c4z4; 而另外有一个五次多项式, q(z)= d0+ d1z+ d2z2+ d3z3+d4z4+d5z5: 广为人知的是：p的根可由显式(由Ferrari在大约 1540 年发现)求得, 但是q的根却没有这样的公式(Ruffini和Abel在250年之后; 证明了它的无解性)。因此,哲学上会意义到，p 和 q 的求根问题是完全不同的。然而在实际应用中它们却难于区别。 如果一位科学家或一个数学家想要知道一个多项式的根, 他将会转向一部计算机而且在小于几毫秒的时间内得到16位数值精度的答案。 计算机使用了一个显式吗?在q的情况，答案肯定为不，但p怎么样?也许是,也许不。大部份的时间，使用者既不知道也不关心,一百个数学家中也许找不到一个能凭记忆写下求p的根的公式。 这里再举出另外三个例子，就像对于p的求根那样，它们是能用一级数初等运算求解的。 (1) 线性方程组: 解含n个未知数的n个一次方程组。 (2) 线性规划: 在m 个线性约束下，将含n个变量的一次函数减到最小。 (3) 旅行售货员问题: 找到在 n 城市之间的最短旅游路线。 而下面的五个例题, 则像对于q求根那样,通常是不能够用初等运算求解的。 (4) 求 n x n 矩阵的特征值。 (5) 求多变量函数的最小值。 (6) 计算积分。 (7) 解常微分方程(ODE问题) 。 (8) 解偏微分方程(PDE) 。 我们能否得出结论 (1)-(3) 在实际中将会比(4)-(8)容易 ? 完全不是！如果 n 是数百或数千，问题 (3) 通常是非常难解的。 问题 (6)和(7) 通常相当容易,至少如果积分是一维的。 问题 (1)和(4) 几乎完全有相同的难度:当n很小的时候（例如 100）比较容易,而当 n大的时候,（例如1000000）就很难。事实上, 在这些问题中，哲学只能对实践作很差的指导, 在问题 (1)-(3)中, 当n和m很大的时候，人们一般不去求精确的解，而使用近似的(但却是快速的!)解法。 数值分析是研究连续问题运算法则的数学, 这意味着命题包含实变量或复变量。(这个定义包括在实数域定义的线性规划和旅行售货员那样的问题, 但不是它们的离散对应物.) 在本文的其他部分，我们将综述它的主要分支、已有成就和可能的未来趋向。 2 简短的历史 在整个世纪中,领先的数学家已经参与了科学应用, 而且在许多情况下，这已经导致今天的仍然在使用的算法的发现。高斯就是一个杰出的例子。在许多其他的贡献中, 他在最小二乘数据拟合(1795)、线性方程组求解(1809)、和数值积分(1814)方面,都推动了决定性的进步。他在发明快速傅立叶变换 (1805)方面也一样, 虽然后者直到1965年Cooley和Tukey 把它再发现后，才变成广为人知。 大约在1900年左右,在数学家的研究活动中，数值分析开始变得不大活跃。因为技术上的理由，当时数学的进步主