第一章典型例题.docVIP

  • 57
  • 0
  • 约8.55千字
  • 约 19页
  • 2021-01-12 发布于黑龙江
  • 举报
第一章典型例题 例1 设x*= ?=3.1415926… 近似值x=3.14=0.314×101,即m=1,它的绝对误差是 -0.001 592 6…,有 即l=3,故x=3.14有3位有效数字。x=3.14准确到小数点后第2位。 又近似值x=3.1416,它的绝对误差是0.0000074…,有 即m=1,l=5,x=3.1416有5位有效数字。 而近似值x=3.1415,它的绝对误差是0.0000926…,有 即m=1,l=4,x=3.1415有4位有效数字。 这就是说某数有s位数,若末位数字是四舍五入得到的,那么该数有s位有效数字; 例2 指出下列各数具有几位有效数字,及其绝对误差限和相对误差限: 2.000 4 -0.002 00 9 000 9 000.00 解 因为x1=2.000 4=0.200 04×101, 它的绝对误差限0.000 05=0.5×10 1―5,即m=1,l=5,故x=2.000 4有5位有效数字. a1=2,相对误差限 x2=-0.002 00,绝对误差限0.000 005,因为m=-2,l=3,x2=-0.002 00有3位有效数字. a1=2,相对误差限?r==0.002 5 x3=9 000,绝对误差限为0.5×100,因为m=4, l=4, x3=9

文档评论(0)

1亿VIP精品文档

相关文档