第一章数值计算方法.pptVIP

  • 37
  • 0
  • 约9.9千字
  • 约 58页
  • 2017-06-24 发布于四川
  • 举报
* * * * * * * * 1.3.3 有效数字 定义1.5 设x的近似值 其中 是0到9之间的任一个数,但 n是正整数, m是整数,若 则称 为x的具有n位有效数字的近似值, 准确到第n位, 是 的有效数字。 1.3.3 有效数字 例5. 3.142作为π的近似值时有几位有效数字 解: 3.141592…= 0.3141592…× 3.142 = 0.3142× m = 1 |π-3.142 |=|0.3141592…× -0.3142×? | < 0.000041× < 0.0005= × m –n =1–n =-3 所以 n =4,具有4位有效数字 例6. 当取3.141作为?的近似值时 ??-3.141?=?0.3141592…?101 -0.3141?101? ≤0.0000592 ?101 0.0005=1/2 ? 10-2 m-n=1-n=-2 所以n=3具有3位有效数字 推论 如果近似数x*误差限是某一位的半个单位, 由该位到x*的第一位非零数字一共有n位 x*就有n位有效数字,也就

文档评论(0)

1亿VIP精品文档

相关文档