数值分析考试内容.docx

数值计算误差例 1 按四舍五入原则写出下列各数具有 数:187.9325,0 8.000033, 2.7182818。 按定义,上述各数具有 5 位有效数字的近似数分别是 注意x = 8.000018.3, 是 5 位有效数字的近似 8.0000 而不是 8,因 为 8 只有 1 位有效数字。 例 2 重 力 常 数 g g ~ 0.980 x101 m / s2 , 如 果 ; 若 以 以 m / s2 km / s2 为 单 位 , 为 单 位 , g ~ 0.980 x10一2 km / s2 ,它们都具有 3 位有效数字,因为按第

文档评论(0)

1亿VIP精品文档

相关文档